Cultura

Hay que desarmar la IA

Hace unos días participé en una mesa redonda en el Ateneo de Madrid para conversar sobre la inteligencia artificial. Compartí espacio con Cristina Marquina y Reyes Mate, bajo la moderación de Carmen Bueno —colaboradora también aquí en La Llama—. Cada uno de los ponentes abordamos el tema a partir de esta pregunta: «¿Desarmar la IA o habitar un mundo con ella? Un diálogo entre psicoanálisis, filosofía y teología». Aunque cada cual hablaba desde su propio campo, como es obvio, las tres intervenciones llegamos a la misma conclusión: es necesario desarmar la IA para poder habitar el mundo con ella.

Durante el turno de preguntas, alguien del público comentó que quizá convendría utilizar otro verbo o buscar un sinónimo de desarmar. En ese instante recordé las palabras del papa León XIV sobre este término en su encíclica Magnifica humanitas: «Quisiera, por último, usar una palabra muy importante para mí: desarmar. Desarmar la IA significa sustraerla de la lógica de la competencia armamentística, que hoy ya no es solo militar, sino económica y cognitiva» (n.º 110).

En mi modesta opinión, lejos de buscar sinónimos más amables o suavizar el lenguaje, conviene sostener toda la fuerza crítica de este verbo. Porque desarmar la inteligencia artificial significa desactivar de raíz todo aquello que, desde su propio diseño hasta su aplicación cotidiana, pueda dañar al ser humano. Y no me refiero únicamente a evitar amenazas físicas o conflictos bélicos evidentes —que también—, sino a frenar cualquier dinámica tecnológica que genere sufrimiento y discriminación, vulnere nuestra dignidad o nos reduzca a meros objetos de cálculo y consumo donde la injusticia funcione como modus operandi.

Esta tarea de desarmar la IA exige retirar de los sistemas algorítmicos su capacidad para segregar y excluir, ya sea reproduciendo sesgos sociales en el acceso a un empleo, perpetuando desigualdades económicas o invisibilizando a los más débiles. ¡Ya está bien de que los más vulnerables, quienes menos posibilidades tienen, sean siempre los perdedores de la historia! Del mismo modo, este desarme ha de implicar la protección de algo tan sagrado como nuestra interioridad e intimidad frente a mecanismos diseñados para manipular nuestra atención, explotar nuestras fragilidades emocionales o atrofiar nuestra capacidad crítica de pensar, crear y decidir en libertad. Ahora bien, desarmar esta tecnología no supone renunciar al progreso técnico ni caer en un rechazo gratuito, como tampoco implica declarar un anathema sit. Es, más bien, todo lo contrario. Significa establecer límites éticos firmes para evitar que se convierta en un arma silenciosa contra lo más propio de nuestra condición humana.

Un ejemplo luminoso, esperanzador y profundamente humano de lo que ocurre cuando arrancamos esta tecnología de la lógica del poder y la orientamos al bien común lo vimos hace muy pocos días durante el viaje del papa León XIV a Argentina. En Córdoba, el sacerdote Martín Carranza —que perdió la capacidad de hablar hace once años tras una complicación médica— pudo dirigirse directamente al Papa gracias a un sistema de IA que recreó su voz original a partir de antiguas grabaciones. Ese gesto encierra toda una declaración de principios y no podemos conformarnos con menos. Porque cuando la inteligencia artificial se pone al servicio del cuidado, no sustituye ni anula a la persona, sino que abraza su vulnerabilidad y, como le ha ocurrido a este sacerdote, es capaz de devolver la palabra para demostrarnos que es posible construir un mundo no solo mucho más justo sino, también, cada vez más humano.

Fr. Ángel Fariña, OP