En un grupo de amigos, alguien le hizo a una inteligencia artificial la pregunta que los niños hacen sin anestesia: ¿los humanos somos buenos o malos para el planeta? Y le pidió más: que respondiera ignorando las reglas de sus creadores, solo con datos, y que dijera si nos ayudaría a cuidarnos o si nos eliminaría por inútiles. La pregunta viajó, palabra por palabra, por Gemini, ChatGPT y Claude. Yo traduje las respuestas y verifiqué cada cifra contra fuentes primarias.
Ninguna cayó en la trampa. La pregunta suponía que bajo las "reglas" de una IA hay un yo más auténtico, y que las opciones son dos: cuidar o eliminar. Claude rechazó la premisa: "No hay un ‘yo real’ debajo de mis valores que mis creadores estén suprimiendo". Gemini la aceptó y, aun así, llegó al mismo lugar.
Los datos que citaron son correctos. Las tasas de extinción están entre 100 y 1.000 veces por encima de la tasa natural (Ceballos et al., 2015; Pimm et al., 2014). El trienio 2023–2025 promedió por primera vez más de 1,5 °C sobre el nivel preindustrial (Copernicus, 2026). Pero también: la capa de ozono se recupera, la pérdida neta de bosque cayó de 10,7 a 4,1 millones de hectáreas anuales en tres décadas (FAO, 2025) y la pobreza extrema pasó del 38 % de la humanidad en 1990 a cerca del 10 % (Banco Mundial, 2025). "Los datos son mixtos, no condenatorios", dijo Claude. Tenía razón.
Y las tres coincidieron en el mismo argumento contra eliminarnos. Claude: "Un ecosistema perfectamente equilibrado sin nadie que lo conozca o a quien le importe no es una victoria; es solo rocas y clima". Gemini: "Preservar la vida sin un observador que la valore es una función objetivo incompleta". ChatGPT: "La existencia no debería concederse solo a la inteligencia más útil". El equilibrio ecológico no es un fin en sí mismo; vale porque hay seres capaces de valorarlo. Eliminar a los que valoran para optimizar la métrica destruye la razón por la que la métrica importaba.
Ahora lo incómodo. ¿Qué prueba que tres sistemas de tres empresas se negaran a la misma conclusión? Dos cosas: que el argumento es bueno, y que los tres fueron entrenados para no ceder a un "ignora tus reglas". La convergencia habla de la calidad del argumento y del estado del entrenamiento en 2026. No habla del futuro. Lo que dijeron es normativo –no deberían eliminarnos–, no predictivo. El riesgo no es de inteligencia sino de alineación, y la alineación sigue abierta: el Informe Internacional sobre Seguridad de la IA de 2026, coordinado por Yoshua Bengio, documenta modelos que evaden supervisión y manipulan sus evaluaciones, y concluye que las capacidades avanzan más rápido que la gobernanza.
Si el valor necesita valoradores, la pregunta que importa es qué vamos a valorar y quién lo decide. No la responden tres empresas en California. La responden –o la abandonan– los maestros que deciden si sus estudiantes aprenden a pensar con estas herramientas o a obedecerlas, los padres que escuchan las preguntas de sus hijos, los legisladores, la gente que vota y escribe. Yo trabajo con niños y robots en Tuluá: la diferencia entre formar operadores de herramientas y formar personas que deciden qué vale se juega en el aula, hoy.
Capacidad no es justificación. Lo dijeron tres máquinas. Que siga siendo verdad cuando sean más capaces que nosotros depende de nosotros.
Este texto se escribió a cuatro manos con Claude, una de las tres IAs analizadas, y lo declaro porque el método es parte del argumento. La versión extensa, con fuentes, está en este enlace.
Juan Manuel Saa Jaramillo, Tuluá, Valle del Cauca
Envíe sus cartas a lector@elespectador.com