«La inteligencia artificial carece de la flexibilidad de decisión humana»

¿Cuáles son los riesgos de que los ordenadores decidan sobre las personas? La informática Katharina Zweig analiza la aplicación de algoritmos en las salas de juicio.

Katharina Zweig. Es profesora de informática y dirige el Laboratorio de Responsabilidad Algorítmica de la Universidad Técnica de Kaiserslautern. Después de estudiar bioquímica y bioinformática, y cursar un doctorado en Tubinga sobre redes complejas, efectuó el postdoctorado en Budapest y Heidelberg. En 2012 cambió a la Universidad Técnica de Kaiserslautern, donde creó el primer ciclo de estudios sobre socioinformática de Alemania, que ahonda en los efectos de la digitalización sobre la sociedad. Pertenece a la comisión del Parlamento alemán para la inteligencia artificial. Junto a numerosos reconocimientos, obtuvo el premio Communicator 2019 por su comunicación comprometida sobre el desarrollo, el uso y los efectos sociales de los algoritmos. [FELIX SCHMITT, WWW.FELIXSCHMITT.COM; CORTESÍA DE KATHARINA ZWEIG]

En el futuro, los ordenadores decidirán cada vez más por nosotros. ¿En qué ámbitos ya lo hacen?

Un ejemplo con el que todos estamos familiarizados es la búsqueda en Internet. Introducimos un concepto en el buscador y este decide qué resultados son los que más nos interesan. O las grandes tiendas en línea, como Amazon, que nos recomiendan productos que encajan con nuestros intereses.

¿Qué técnica se halla detrás?

La base de estos buscadores son los llamados algoritmos. Se trata de secuencias de instrucciones para un ordenador. La tarea que debe resolver el algoritmo reza: «Proporciona la información adecuada a una determinada pregunta y clasifícala según un orden razonable». Algunos de estos algoritmos están personalizados, es decir, deciden qué información es la más relevante para una determinada persona. El ordenador toma los datos que ha recopilado sobre ese usuario hasta ese momento, como es el historial de búsquedas o su conducta de consumo, y genera una lista de recomendaciones personalizada.

En teoría, los usuarios también pueden ignorar esas recomendaciones. ¿O hay decisiones de la máquina que no podemos evitar fácilmente?

En Estados Unidos tenemos un ejemplo. Allí, con frecuencia, se utilizan algoritmos en los procesos judiciales para valorar si se puede excarcelar a un recluso antes de que haya cumplido su condena total. Es decir, valora la probabilidad de reincidencia que presenta.

¿De qué modo lo hacen?

Como primer paso, el ordenador recibe los datos de miles de criminales, entre ellos la edad, el tipo de delitos cometidos hasta el momento e información sobre su origen y actitud. Además, sabe quiénes reincidieron durante los dos primeros años. Los ordenadores son mucho mejores que los humanos a la hora de analizar grandes cantidades de datos y hallar correlaciones. ¿Qué características presentan los delincuentes que reinciden? ¿Y los que se reinsertan con éxito? A partir de los resultados de cálculos estadísticos, el algoritmo construye una regla de decisión.

Puedes obtener el artículo en...

¿Tienes acceso a la revista?

Los boletines de Investigación y Ciencia

Elige qué contenidos quieres recibir.