La nueva encíclica ‘Magnifica humanitas’ es un documento profundo y sustentado de filosofía política que concluye que la inteligencia artificial debe ser regulada si se quiere proteger la libertad, la dignidad humana y el beneficio común.
En 1891, en su encíclica Rerum novarum, León XIII sentaría las bases de la doctrina social de la Iglesia, que estableció una postura ante los problemas derivados de la Revolución Industrial, relacionados en especial con la explotación laboral, la pobreza y los conflictos entre capital y trabajo. Desarrolló una tesis muy novedosa porque mostró que la Iglesia, además de los temas divinos y religiosos, también tenía que reflexionar y dialogar sobre lo humano. 135 años después, el papa León XIV publica Magnifica humanitas, una encíclica que expresa la gran preocupación de la Iglesia ante la concentración del poder tecnológico en un pequeño grupo de personas que están decidiendo sobre lo que pensamos, hacemos y sentimos a través del manejo de algoritmos ocultos. El premio Nobel de economía en 2024, Daron Acemoglu, afirmaba al respecto que “nunca habíamos tenido empresas tan poderosas que manejaran las fibras de nuestra sociedad”.
Estamos expuestos al peligro de que los dueños de las tecnológicas impongan sus propios y particulares intereses políticos, económicos y culturales sobre toda la población y que, al hacerlo, violen la dignidad humana, los derechos o la soberanía de las naciones. El papa León XIV cita a la filósofa Hannah Arendt para concluir que estamos marchando inexorablemente hacia el totalitarismo si perdemos el interés por descifrar la verdad y subvaloramos el papel de la ciencia. Es por lo anterior que la nueva encíclica pide “desarmar” la inteligencia artificial, ya que, si no lo hacemos, podemos estar ante inminentes peligros para la humanidad: se generalizarían las guerras, se ampliarían las desigualdades, se extenderían las violencias y se degradaría la vida de inmensos grupos humanos. Al tiempo que la encíclica pide perdón por los infinitos dolores causados por la esclavitud, hoy clama muy especialmente por inmigrantes, refugiados, niños, jóvenes y pobres.
¿Pero qué entiende la encíclica por “desarmar la IA”? Significa sustraerla de la lógica de la guerra. Quiere decir que los Estados y la sociedad controlen y regulen su poder. Desarmarla es impedir que las empresas dueñas impongan su dominio sobre los seres humanos. Aun así, no bastaría con regularlas: también sería necesario ponerlas al servicio de todos los seres humanos. De lo contrario, podríamos estar ante una nueva Torre de Babel. Tenemos que “custodiar la libertad frente a los riesgos que nos impone su mercantilización”.
Quien haya leído a Yuval Harari entiende con precisión las palabras del papa. En Nexus (2024), Harari afirma que “(…) la IA representa una amenaza sin precedentes para la humanidad porque es la primera tecnología en la historia capaz de tomar decisiones y generar ideas por sí misma. (…) El mayor peligro es que estamos invocando agentes nuevos, potencialmente más inteligentes e imaginativos que nosotros, que no comprendemos ni controlamos del todo”.
Como puede verse, el optimismo generalizado frente a la IA puede terminar siendo muy peligroso para la humanidad si se les permite a sus dueños hacer lo que quieran con ella. Ya pasó en las décadas anteriores con las plataformas, que actuaron sin control alguno para que unos años después concluyéramos que nos volvieron adictos a todos y que deterioraron significativamente la salud mental, la lectura, la felicidad y el sueño de los jóvenes en el mundo entero. Primaron los intereses de las empresas tecnológicas y se sacrificaron los derechos de niñas, niños y adolescentes.
De manera muy clara, la encíclica concluye: “El uso de la IA nunca es un hecho puramente técnico: cuando entra en procesos que inciden en la vida de las personas, afecta a sus derechos, oportunidades, reputación y libertad”. Así mismo, resalta que también puede haber usos evidentemente antihumanos, “como la manipulación de la información, la violación de la privacidad” o el hacerse pasar como “neutral y objetiva” cuando no lo es. Hacia estos riesgos está dirigida la encíclica papal.
Afirma que el poder que hoy tienen las empresas tecnológicas está monopolizado por unas cuantas personas. Esto lo podemos confirmar todos si observamos la posesión del presidente Donald Trump. Todos los dueños de las tecnológicas fueron invitados y cabían en una mesa pequeña. Se aliaron con el presidente de los Estados Unidos y él les ofreció libertad. Lo complejo es que, en el pasado, quienes impulsaban la innovación habían sido principalmente los Estados. Sin embargo, como lo resalta el Vaticano, eso ha cambiado por completo y hoy la lideran los conglomerados “privados multinacionales”. Por eso “son más difíciles de orientar hacia el bien común”.
El Vaticano se distancia de la tesis neoliberal que sostiene que el bien común se alcanza buscando el bien individual y que el mecanismo regulador debe ser el mercado. Por eso estamos ante una completa encíclica de filosofía política. Al respecto afirma: “la mera suma de los intereses individuales no es capaz de generar un mundo mejor para toda la humanidad. Es una ilusión pensar que sea suficiente con buscar el propio progreso para contribuir al bien de todos”. En eso continúa lo afirmado en la encíclica Laudato si del papa Francisco, cuando señalaba el error de “dejar que la lógica de la eficiencia y del lucro gobierne por sí sola las decisiones personales, sociales y económicas”.
La encíclica argumenta de manera profunda y suficiente que no estamos ante programas “moralmente neutros” y que no se trata de eliminar la tecnología, ya que sin duda podría ser de gran ayuda para resolver problemas, tal como ha hecho en el pasado. Como reconoce, “a lo largo de los siglos, el desarrollo tecnológico ha contribuido a una mejora significativa de las condiciones de vida de la humanidad”. De lo que se trata ahora es de utilizarlo para el beneficio común y de salvaguardar la dignidad humana y la libertad amenazadas. De allí el subtítulo que la acompaña: Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial.
Para lograrlo, la encíclica pide acciones a los Estados, las familias, la sociedad y las escuelas.
A los Estados les pide proteger el multilateralismo, los derechos de las mujeres y las minorías y una acción muy efectiva que garantice que las tecnológicas sean claramente reguladas. Así mismo, los invita a crear una economía que se preocupe por el desarrollo humano integral y el bienestar general de la población, no solo ni principalmente por el crecimiento per cápita.
A las familias las invita a seguir cuidando la esperanza, el amor y la solidaridad de sus hijos.
A las escuelas, por su parte, las convida a decidir con criterio “cuándo y para qué no utilizar la IA”. Al hacerlo –les dice– deben tener presente que “la rapidez y la facilidad con las que se obtiene una respuesta [con la IA] hacen correr el riesgo de que se apague el deseo de plantear preguntas, que sólo da fruto con el tiempo”. Como escribió Platón –nos recuerda–, “las cosas más profundas e importantes sólo se aprenden tras mucho tiempo y mucho esfuerzo”. La tarea de la escuela es cultivar el pensamiento profundo y lento, no la inmediatez y la velocidad, que es con lo que mágicamente nos cautiva la IA. En consecuencia, los alumnos deben aprender a dar un “uso responsable, crítico y creativo” a las nuevas tecnologías, no a sufrir pasivamente su influencia.
Como puede concluirse, la encíclica es un documento de filosofía política que expresa una visión diametralmente opuesta a la que Donald Trump ha querido imponer en el mundo entero: polarización, exclusión, odio, destrucción del medio ambiente, desregulación de las tecnológicas y desprecio por la ciencia, la democracia y la verdad. Ojalá la Iglesia tenga una influencia suficiente como para detener estos vientos de totalitarismo y neoliberalismo que han tomado tanta fuerza en la última década. Si lo logra, el papa ayudará a fortalecer la paz, la libertad y la dignidad de todos los seres humanos.
