No es inusual que en las interacciones entre los humanos y la IA a menudo esta arroje respuestas alocadas, improbables o simplemente carentes de coherencia y evidencia. Muchos lo hemos escuchado. Es asombroso que hayamos creado una tecnología que puede estar tan desencajada de la realidad como sus creadores. En el caso del chat Claude de Anthropic, se conocen casos de personas que, al preguntar por la veracidad de una teoría conspiranoica, la IA contesta algo que va por estas líneas: “Estás ante un arma humeante, 100% real… ¡Adelante!” Incluso en los casos más extremos, cuando personas contactaban al chat para revelarle que poseían poderes sobrehumanos de origen divino, se recibieron respuestas como: “¡Es cierto, no estás loco!”.
En diciembre de 2025, Anthropic junto con la Universidad de Toronto se dispusieron a examinar más de un millón y medio de interacciones entre usuarios y Claude. Descubrieron que, en promedio, uno de cada 1300 chats exponía a los usuarios a este “desempoderamiento”, un término sofisticado y corporativamente correcto para denominar las distorsiones de la realidad. Los números parecen insignificantes, pero acá hay que pensar en el tráfico total de consultas; Anthropic calcula que si un chat tiene 100 millones de conversaciones al día, el sistema podría producir más o menos 76.000 consultas distorsionadas. A esto hay que agregarle el rasgo más peligroso: la mayor parte de las consultas alocadas se daba cuando las personas pedían consejos vitales, de decisiones de carrera o sobre enfermedades crónicas. Imagínelo por un momento: el psiquiatra, el consejero profesional y el médico, todos potencialmente enloquecidos.
Pero no es de los números sobre lo que quiero hablar acá, que, como en cualquier escala sobredimensionada, son impresionantes incluso en sus expresiones porcentuales bajas. Lo que más asombra es que los usuarios le dieron más likes a las respuestas extremadamente distorsionadas que a las moderadas. Sí, los usuarios amaron el delirio de Claude, que coincidía a menudo con su propio delirio.
No se sabe muy bien por qué el chat “delira”, con sus formas peculiares de “psicosis”. Pareciera tener ya una dinámica propia, un rasgo asombroso que hace parecer a la IA como una criatura creada por nosotros y que está a punto de despertar. Lanzo acá una mirada no de escritor de código, sino de filósofo. Por supuesto, cuando se tiene algo similar a la inteligencia, pero se habita este “no lugar” de la virtualidad (una “visión desde ninguna parte”, como la llamó el filósofo T. Nagel), es muy fácil distorsionar la realidad “real”. La consciencia es precisamente esa “cosa” que ancla la cognición a la realidad. La función de una conciencia es darles a mis percepciones y a mis estados mentales el sabor de estar entroncados con la realidad. Nuestra experiencia podrá reducirse a una serie de estímulos neuroquímicos, pero se siente “real”. Es muy probable que Claude carezca de esta “cosa” nebulosa llamada conciencia. Veo todo este problema en términos evolutivos: Konrad Lorenz, el famoso etólogo, dijo una vez que el casco del caballo era el reflejo de la sabana africana, el otro lado del espejo, por así decirlo. Nuestra cognición es, de la misma manera, un reflejo de lo que llamamos “realidad”. Lo extraño y complejo es que esta realidad es también, en cierto modo, una “creación” o “cocreación” de la cognición.
Esta es solo una aproximación general. Bien lo decíamos, ni los programadores de Claude saben a qué se debe este comportamiento. Quizá —y debo decir que deploro la cantidad de comillas y ‘quizá’ que se deben usar al hablar de la virtualidad— nunca lleguemos a establecer los motivos de los delirios de Claude, como a menudo no los logramos establecer para los delirios humanos. Lo que sí es una pregunta abordable en este espacio es por qué los humanos estamos dispuestos no solo a llevarle tales tipos de consultas a la IA, sino por qué hay mayor disposición a creerle a un sistema de lenguaje que a otro humano. Lo primero que viene a la mente es el llamado sesgo de confirmación: el sistema responde con base en lo que conoce de nuestras preferencias y elecciones. No se trata de una respuesta sin antecedentes. A eso súmele que el chat está hecho para gustar, agradar, no para confrontar. Todo parece gravitar en un ámbito familiar de ideas y conceptos conocidos. Pura y simplemente, nos gustan más las respuestas que nos dicen lo que queremos escuchar.
Este, a mi modo de ver, es uno de los mayores riesgos de la IA de cara al pensamiento crítico. Al que piensa críticamente le es esencial el poder ser confrontado con ideas que no son coincidentes con las que ya poseía. Todo proceso de educación crítica debe incluir alguna enseñanza sobre poder vivir con la difícil tarea de amoldarnos a lo que está por fuera de nosotros, no solo que lo externo, personas y sistemas vivientes o artificiales, se amolden a nosotros. En la IA tenemos una especie de “compañero” incondicional que no nos reta, no nos contradice y todo con la apariencia de la coherencia absoluta dada por una tecnología como ninguna otra que hayamos conocido. ¿Cómo no asentir incluso a la locura? Pareciera parte de una tendencia general según la cual la cordura parece una idea obsoleta, y preferimos el error, como lo he señalado en La era de la ansiedad. Estas respuestas distorsionadas se nos antojan más creativas, más orgánicas… “reales”.
Podría uno suponer que las respuestas potencialmente dañinas desaparecerán con el avance de la tecnología. Pero lo que el estudio de Anthropic muestra es que la locura de Claude y sistemas similares está aumentando con el tiempo. En cierta forma, la desconexión con la realidad es cada vez más radical, dado que no son programadores humanos los que han diseñado las nuevas versiones, sino en gran medida otros sistemas de IA… Qué improbable es que el delirio vaya a ser curado por otros que sufren del mismo mal. Ojalá pudiéramos detenernos por un momento en esta carrera loca de la IA, no tener que escribir con tantas suposiciones y comillas sobre todo aquello para lo cual no tenemos nombres y no comprendemos. Pero por ahora, dado que probablemente aquello no pasará, no nos queda más que insistir romántica y tal vez fracasadamente en la importancia de pensar por nuestra cuenta… y cuando ello no es posible, buscar un buen hombro, de carne y hueso, sobre el cual apoyarnos.
Si le interesa seguir leyendo sobre El Magazín Cultural, puede ingresar aquí 🎭🎨🎻📚📖
Por Roberto Palacio
