Desnudar la inteligencia artificial mientras la vestimos

La necesidad del enfoque ético y social de las tecnologías emergentes.

Atlas of AI, Kate Crawford

ATLAS OF AI
POWER, POLITICS, AND THE PLANETARY COSTS OF ARTIFICIAL INTELLIGENCE
Kate Crawford
Yale University Press, 2021
336 págs.

Cuanto tenía seis años, mi madre me compró un atlas. Aprendí entonces el tópico, ahora manido, de que los mapas no son el territorio. Marcaba en él recorridos y viajes que solo sucedían en mi imaginación. Descubrí luego que la cartografía pretende representar una realidad inabarcable; la distorsiona y la simplifica utilizando algunas licencias imprescindibles para, por ejemplo, plasmar en un plano bidimensional los detalles de un planeta tridimensional. Algo imposible.

Kate Crawford arranca de manera similar su imposible atlas de la inteligencia artificial. Con la curiosidad de una niña plantea preguntas sencillas, aquellas que a su vez son las más difíciles de responder. ¿Qué es la inteligencia artificial? ¿Qué sesgos o ideologías políticas propaga, y para quién? ¿Qué coste ambiental tiene? ¿Debería limitarse su uso? Si hace poco Ramón López de Mántaras nos alertaba sobre la desnudez de la inteligencia artificial aprovechando el símil del popular cuento de Andersen [véase «El traje nuevo de la inteligencia artificial», por Ramon López de Mántaras; Investigación y Ciencia, julio de 2020], Crawford se ha atrevido a hacer un patrón del traje invisible del emperador. De la sisa a los bajos, ha descosido los dobladillos ocultos de las tecnologías emergentes y ha hilvanado un ensayo que nos empuja al imprescindible enfoque ético de la inteligencia artificial (IA).

Crawford, experta en las implicaciones de la IA y que entre varios cargos académicos es investigadora principal en Microsoft Research, explora territorios conocidos pero no por ello menos inhóspitos. Su Atlas of AI escarba en las minas de las tierras raras y en el elevado consumo energético y de agua del que depende el desarrollo de esta tecnología. Destripa la explotación laboral encubierta bajo el halo de las empresas tecnológicas, donde una rebelión en la granja es posible aún. Presenta la necesidad pantagruélica de datos por parte de sistemas tecnológicos insaciables de palabras, imágenes y ubicaciones. Explica el origen de los sesgos en las clasificaciones automáticas, machistas, racistas y xenófobas, como reflejo carrolliano del mundo políticamente incorrecto. Nos deja cara de póquer cuando nos descubrimos como carnaza de los programas que pretenden desvelar nuestras emociones, afectos o tendencias sexuales simplemente analizando los píxeles de nuestros rostros expuestos en las redes sociales. Remueve las relaciones entre los Estados y los poderes fácticos, auténticos controladores del cotarro político y militar que hay tras el interés desmedido en el desarrollo de la IA y, por supuesto, en su blanqueo mediático. Y por último, destruye los mitos y las fantasías que nos venden a las tecnologías emergentes como entes diáfanos, neutros e incorpóreos que generan conocimiento con independencia de sus financiadores, de sus creadores o del entorno natural al que parasitan.

Su estilo metafórico es sugerente y a la par desgarrador, como cuando expone el paralelismo entre el extractivismo de la minería de datos y el de la minería real necesaria para producir la electrónica de la IA. Acto seguido, lejos de quedarse ahí, ahonda en el símil recordándonos la dureza de las condiciones laborales de los obreros de las grandes corporaciones tecnológicas, los nuevos mineros. Sin llegar al punto incisivo de Simona Levi en #FakeYou (Rayo Verde, 2019), el relato de Crawford debería sonar amenazador para la industria tecnológica por las implicaciones sociales de su discurso. Al fin y al cabo, Atlas of AI es una crítica desde dentro del mapa. ¿O no trabaja Crawford para Microsoft? ¿Se trata de un ensayo edulcorado? ¿Se ha autocensurado? No da esa sensación, como mínimo en su perspectiva sindical o ecologista; porque logramos lo artificial a costa de lo natural. Por eso, Crawford nos augura un atlas seco, como el de la Tierra sin agua que representó Thomas Burnet en 1694. El relato distópico adquiere trágicos tintes realistas con el paso de las páginas.

No obstante, Crawford cartografía más el presente de la IA que su futuro. Mueve al lector por su atlas suministrándole precisas coordenadas GPS que ilustra con fotografías reveladoras. Sabe quizá que otro plan sería inabordable. Conecta así la perspectiva global con hechos locales, como los conflictos laborales en boga en algunas plantas estadounidenses de Amazon, relacionados en buena medida con la automatización y la expansión de la robótica industrial, y dejando espacio mental a la reflexión del lector. Ella da los puntos cardinales, usted debe imaginar lo que está por venir: únalos.

Pero el libro tampoco mira al pasado más que lo justo para contextualizar. ¿Para qué recuperar a Mercator en la era de Google Maps? Crawford hubiera enriquecido su narrativa tirando del fondo de armario de clásicos como la Meditación de la técnica de Ortega y Gasset (1939), ciertamente poco tratado en la literatura anglosajona, o Darwin among the machines de Samuel Butler (1863). Pero el Erewhon butleriano no aparece en el planisferio de Crawford, y el centauro ontológico orteguiano, o la inexorable relación entre la inteligencia humana y la tecnología, queda como un eco obvio para el lector hispano.

Sin entrar en profundidad en la controversia sobre el dualismo, Crawford se apropia de argumentos filosóficos previos al postular que la IA no es ni inteligente ni artificial. Huye de la metáfora computacional bidireccionalmente: ni el cerebro es un ordenador ni el ordenador será un cerebro, recordando entre líneas a Las sombras de la mente de Roger Penrose (Crítica, 1996). Sobre la I de inteligencia (y de «yo» en inglés, por cierto), Crawford reivindica un tono abierto en su discurso, como en la obra polifónica de los años ochenta editada por Douglas Hofstadter y Daniel Dennett The Mind’s I (Bantam Books, 1982), al incorporar múltiples voces en su atlas. Pero siempre con el objetivo claro de desenmascarar la auténtica realidad social que se oculta tras la ficticia «inteligencia» de la IA. Hay por eso una deliciosa y sutil ironía inicial cuando apela a la inteligencia del caballo Hans para romper el hielo.

Ante la A de artificial, sin embargo, Crawford no da tregua: el ser humano, en su singladura evolutiva, ha modificado su entorno constantemente. Pero mientras que otras tecnologías se nos muestran claramente contaminantes, como la automoción (aunque con intentos de blanqueo últimamente por parte del coche eléctrico), el enorme impacto ecológico de la IA se sigue ocultando a la sociedad.

El realismo de Crawford la aproxima a enfoques sociales como los del investigador Wim Naudé, que ya habían puesto el foco en la incidencia de la IA sobre la desigualdad, y la aleja del alarmismo transhumanista de la singularidad kurzweiliana [véase «Más que humanos», por Hyllary Rosner; Investigación y Ciencia, noviembre de 2016] y de sus falsas promesas, bien diseccionados con anterioridad por filósofos como Antonio Diéguez en Transhumanismo (Herder, 2017) [véase «Transhumanismo: entre el mejoramiento y la aniquilación», por Antonio Diéguez; Investigación y Ciencia, noviembre de 2016].

Crawford es contundente cuando se pregunta, retórica, qué violencia epistemológica es necesaria para que el mundo sea legible para un sistema de aprendizaje automático. Apela así a una reformulación de la filosofía de la tecnología y, en consecuencia, de la tecnoética. También a los problemas derivados de los modelos científicos incompletos bajo los que se programa la IA.

En definitiva, será extraño que el atlas de Crawford les deje indiferentes. Hay todavía mucha tela que cortar del traje del emperador. Los microgestos de su rostro durante la lectura les delatarán ante las cámaras de sus dispositivos electrónicos. Black mirror. Las teorías sobre el lenguaje o las expresiones faciales deben mejorarse, pero, mientras tanto, la IA trabaja con ellas. ¿Nos desnuda ella a nosotros mientras la vestimos?

Puedes obtener el artículo en...

Los boletines de Investigación y Ciencia

Elige qué contenidos quieres recibir.