Más allá del sesgo, el ruido

Una revisión de la arbitrariedad humana

Ruido. Un fallo
en el juicio humano
Daniel Kahneman, Olivier Sibony
y Cass R. Sunstein
Debate, 2021.

Apuntaba Kate Crawford, en su libro Atlas of AI, que nos asusta la irrupción de las computadoras, de sus algoritmos y de la aún mal definida «inteligencia artificial» en cada vez más facetas de nuestra existencia. Nos preocupa, con razón, el impacto que pueden tener los sesgos de las máquinas en los diagnósticos médicos, en la educación, en la seguridad, en los veredictos judiciales o en el mundo laboral. Son algunos ejemplos en los que ya se han descubierto sesgos, derivados en buena medida de los propios sesgos humanos, incrustados estos en las bases de datos con las que se entrena a los algoritmos [véase «Los sesgos de los algoritmos», por Ricardo Baeza-Yates; Investigación y ciencia, octubre de 2021]. El racismo, el sexismo, el clasismo o la xenofobia de la máquina son caleidoscópicos reflejos del imperfecto juicio humano.
El acto de juzgar, evaluar o emitir un dictamen es difícil tanto en el derecho como en la medicina, la enseñanza, el peritaje o la selección de personal. ¿Somos mejores que las máquinas cuando existen variaciones notables entre evaluadores de un mismo caso o, peor aún, en nuestras propias valoraciones, según nuestro estado de ánimo? ¿Puede un humano ser justo al evaluar si su decisión cambia dependiendo de la hora del día, de si ha ganado su equipo, o de si ha comido o dormido bien la noche anterior? ¿Cómo explicar esta dispersión en los juicios humanos? Se trata del ruido.

El ruido nos debería importar al menos lo mismo que el sesgo. No obstante, el estudio del ruido ha recibido mucha menos atención que el sesgo en la literatura. Daniel Kahneman, Olivier Sibony y Cass R. Sunstein nos alertan en Ruido de su omnipresencia en la toma de decisiones. El subtítulo que han escogido para la obra no podía ser más esclarecedor: Un fallo en el juicio humano. Los autores sentencian casi nada más empezar: «Dondequiera que haya juicio, hay ruido (y más del que se piensa)».

Optan los autores por un inicio con ejemplos definitorios, divulgativos, de qué se entiende por juicio, sesgo y ruido. Comparan así el sesgo con lo que le sucedería a un buen tirador si tuviera la mirilla desviada, tras disparar a una diana: los disparos errarían el blanco, pero quedarían todos ellos agrupados. Siguiendo la metáfora, el ruido sembraría la diana de agujeros, de forma más aleatoria, sin seguir un patrón claro.

El volumen, de casi quinientas páginas, está bien estructurado, documentado y editado, con un completo índice alfabético y tres breves apéndices técnicos, bastante útiles: para realizar auditorías del ruido en organizaciones, apoyar en la toma de decisiones o corregir predicciones, por ejemplo en las estimaciones presupuestarias de proyectos. Sin negar el esfuerzo de coordinación que habrá supuesto, se nota que la obra está escrita a seis manos; el resultado final, como quizá los autores reconocerían, posee los sesgos propios de cada uno de ellos hacia la economía, la psicología laboral o el derecho. ¿O deberíamos hablar de ruido, dada la superposición final de tópicos? Disfrutarán más del libro los especialistas de estos ámbitos, pese a que los ejemplos escogidos puedan extrapolarse fácilmente a otros campos.

Puede que el estilo llano de Ruido se quede corto para los lectores con un cierto bagaje en estadística. Tampoco asoma por ningún lado mención alguna a la teoría del caos ni a los modelos de redes neuronales, por mentar algunos temas que lectores más avezados podrían echar de menos. Kahneman, Sibony y Sunstein han pretendido llegar a un público amplio. Evitan tecnicismos y no se meten en berenjenales teóricos, como sería entrar en la irrupción de las teorías de sistemas complejos en psicología, una fructífera línea de investigación, en la cresta de la ola de la ciencia cognitiva.

Sin embargo, lejos de triunfalismos, se respira un aire de realismo en la obra, poco habitual en buena parte de la ensayística contemporánea norteamericana, dada al efectismo mediático del titular y al take home message. No han podido evitar el sumario al final de cada capítulo, con una selección de frases carne de diapositiva (efectivas para docentes ávidos de presentar el libro de forma rápida en sus aulas), pero a ese reduccionismo se contrapone la cautela que predomina en el discurso, la argumentación y los datos expuestos que, sin duda, requieren de relecturas sosegadas. Ruido no puede dejar indiferente a nadie que efectúe valoraciones y juicios en su profesión.

Los autores plantean algunas formas generales de reducción del ruido en los sistemas de evaluación, como son la introducción de normas claras o fomentar la participación de más de un experto. Pero la reducción del ruido puede tener un coste elevado respecto a sus beneficios potenciales, como muestra el uso de algoritmos: aunque estos puedan resultar atractivos para eliminar el ruido, generan sesgos y pueden discriminar a grupos desfavorecidos, mujeres o etnias concretas. Es algo de lo que ya avisó Cathy O'Neil en Armas de destrucción matemática, un ensayo que profundizaba más en las consecuencias sociales del uso masivo de los macrodatos (big data) y la inteligencia artificial.

Por eso, en Ruido se aboga por la optimización. Se nota que hay economistas detrás muy duchos en realizar balances de coste-beneficio. Más allá de una fe ciega en los algoritmos, hay que exigir transparencia a los modelos utilizados en ellos, conocer con qué bases de datos se entrenan y enfocar su uso como ayuda a la toma de decisiones, siempre bajo la supervisión (y responsabilidad) de expertos, nunca como sustitutivos del humano [véase «Es hora de exigir explicaciones a la inteligencia artificial», por Sara Lumbreras; Investigación y Ciencia, noviembre de 2021].

Pero abandonemos por un momento a las máquinas y volvamos a los humanos. En Ruido se cuestiona la apariencia justa de algunas reglas socialmente aceptadas, reductoras del ruido. Por ejemplo, para el acceso universitario, se establece una nota de corte, resultado de las ponderaciones de las notas de bachillerato y de las pruebas de acceso a la universidad. Parece una norma sencilla y efectiva. No hay quejas: quien más estudia tendrá mejores notas y merecerá la plaza. Meritocracia. Ahora bien, las calificaciones dependen del entorno familiar. Los ricos siempre pueden pagar unas clases de refuerzo para ayudar a sus hijos, mientras quizás otro alumno debió ponerse a trabajar para pagarse la carrera, pudiendo dedicar menos horas al estudio. Las estadísticas sobre la procedencia social del alumnado universitario no dejan lugar a dudas. Pero ante la abigarrada casuística y el planteamiento de valorar para el acceso universitario otros aspectos que influyen en el rendimiento académico (ingresos de los padres, situación laboral, etcétera), la sociedad se rinde a soluciones simples y fáciles de entender. Aunque generen sesgos. También es verdad que es más fácil buscar la trampa en sistemas complejos de reglas, si bien para muchos las reglas actuales ya son una trampa. Ruido desnuda una realidad legal llena de fallos.

Mejorar el juicio humano pasa por (re)conocer los propios sesgos, pero también nuestro ruido. Implica saber ayudarnos de las máquinas cuando realizan tareas mejor que nosotros, pero, por dignidad, subrayan los autores, un humano debe dar la cara ante decisiones que afectan a la vida de sus congéneres

Ruido representa un antes y un después en el enfoque psicológico del fenómeno de la evaluación. Aumentarán los experimentos y los artículos sobre la cuestión en los próximos años. Aunque este juicio premonitorio, por mi parte, quizá sea precipitado, erróneo, ruidoso. Tengo hambre y puedo oler la cena.

Puedes obtener el artículo en...

¿Tienes acceso a la revista?

Los boletines de Investigación y Ciencia

Elige qué contenidos quieres recibir.