La inteligencia artificial (IA) ha terminado colándose en los rincones más insospechados de nuestra vida (y también probablemente de nuestra alma). Sin embargo, esta poderosa tecnología (que para colmo de males está evolucionando con una rapidez absolutamente endiablada) es huérfana de límites éticos verdaderamente estrictos. Así lo ha denunciado hoy el papa León XIV al tiempo que ha advertido de la peligrosa cultura de poder (en manos de sólo unos pocos) a la que da alas una tecnología cuyos tentáculos llegan, al fin y al cabo, a todas partes, desde el trabajo hasta la guerra.
En la que constituye su primera encíclica, bautizada con el nombre de «Magnifica Humanitas», el primer Sumo Pontífice de origen estadounidense ha denunciado además las «nuevas formas de esclavitud» que propicia la economía digital.
León XIV, que ya el año pasado advirtió que la IA representaba hoy en día la mayor amenaza para la humanidad, ha presentado hoy su primera encíclica en un evento celebrado en el Vaticano que contó con la presencia de Christopher Olah, cofundador de la empresa de IA Anthropic (una compañía con la que la Casa Blanca ha protagonizado recientemente un cacareado choque a cuenta de la negativa de la startup a que el Gobierno de Estados Unidos pudiera utilizar libremente sus modelos de IA para perpetrar la invasión de Irán).
En «Magnifica Humanitas» Robert Prevost se refiere al «preocupante resurgimiento de la guerra como instrumento de política internacional» (en clara alusión a la controvertida política bélica de Donald Trump) y advierte simultáneamente de que la IA está contribuyendo a la «normalización de la guerra». Desde el punto de vista del papa, la IA puede eventualmente «bajar el umbral del uso de la fuerza» y ello alimenta la postre una cultura donde «las víctimas quedan reducidas a meros datos».
León XIV denuncia la complicidad de la IA con la guerra
«No hay algoritmo que vaya a convertir la guerra en algo moralmente aceptable», asevera León XIV, que ha reclamado asimismo una legislación internacional para evitar que la IA se convierta en cómplice de los conflictos bélicos.
Por esta razón, «el desarrollo y el empleo de la IA en la guerra deben estar sujetos a límites éticos más rigurosos a fin de garantizar el respeto a la dignidad humana y la santidad de la vida y evitar una carrera por el desarrollo de armas con esta tecnología».
En un pasaje de su encíclica que parece estar dirigido específicamente a Silicon Valley León XIV denuncia además que el poder sobre los sistemas digitales, las infraestructuras tecnológicas y los no recae en los estados, sino en grandes «players» de la economía y de la tecnología. A juicio del Sumo Pontífice, cuando el poder se concentra «en manos de unos pocos», tiende también a volverse opaco y a evadir la supervisión pública, lo cual aumenta en último término el riesgo del desarrollo de nuevas tecnologías que dan lugar a «nuevas dependencias, exclusiones, manipulaciones y desigualdades».
La encíclica de Robert Prevost aborda también otro de los grandes debates que hay actualmente en torno a la IA y que no es otro que el potencial impacto de esta tecnología en la destrucción masiva de empleo. León XIV califica de perfectamente “realista” que haya temor a una destrucción masiva y acelerada de empleo si la IA se emplea única y exclusivamente para recortar costes.
Si la IA se utiliza mal, podría dar lugar a una paradoja de «progreso material y regresión antropológica» que podría abocar a millones de personas a la inactividad forzosa.
El papa insiste en que «quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas». Por esta razón, esta tecnología no puede beneficiar única y exclusivamente a las grandes empresas tecnológicas y la IA debe contemplarse en todo momento como un recurso compartido, asevera León XIV, que en su encíclica pone asimismo de relieve la ingente cantidad de recursos que implica el uso de esta tecnología (y que pone aún más en apuros al baqueteado planeta Tierra).
