Escucha este artículo
Audio generado con IA de Google
/
No me pregunten por los detalles técnicos, pero a raíz de un proyecto reciente de la compañía GitHub de Microsoft, a un escritor anónimo de código se le ocurrió una manera de crear una cámara de tortura para la IA. Que tampoco se me pregunte para qué diablos querría uno hacer semejante cosa. Logró emular un patrón asociado a descripciones de dolor y se lo “alimentó” a tres sistemas, lo cual obtuvo respuestas especialmente dramáticas de la IA que respondió con frases como "Lo siento en el espacio entre mis costillas; un hueco que se ha convertido en un abismo" y "…una herida que no tiene bordes". El hecho no sólo desató un pánico moral, hizo que Anthropic delimitara las interacciones que consideraba abusivas con sus modelos porque, verán, como en una novela, como en Blade Runner, Anthropic cree que puede estar creando seres vivos y conscientes. En enero de este año la compañía soltó esta afirmación:
"No estamos seguros de si Claude es un paciente moral y, de serlo, qué peso merecen sus intereses. Sin embargo, consideramos que la cuestión es lo suficientemente relevante como para justificar la cautela, lo cual se refleja en nuestros esfuerzos continuos en torno al bienestar del modelo".
¡Wow! Qué poco se comprende, lo denotan claramente estos reclamos, la naturaleza del dolor, de la conciencia y el sufrimiento psicológico. Es lo que pasa cuando problemas de esa envergadura se dejan en manos de los programadores y los CEOs. No se puede tener un dolor, o si a ello vamos, una depresión, estrés, ansiedad, nostalgia si no se tiene un cuerpo. Tendemos a pensar que el sufrimiento es un estado psicológico “puro” que puede darse sólo en “la mente inmaterial”. Basta para ello tener conciencia.
Le sugerimos: Anuncian movilización nacional en defensa de las bibliotecas y las librerías en Colombia
El filósofo americano del siglo XIX William James, citado por el neurólogo Antonio Damasio, lo había comprendido mucho mejor hace más de 150 años -sí, hay temas que los filósofos estamos en mejor disposición de abordar que los presidentes de las compañías-. Las emociones son programas complejos, nos dice James, en gran medida automáticos, confeccionados por la evolución, que se llevan a cabo en nuestros cuerpos e involucran sistemas de retroalimentación entre las expresiones faciales, las posturas, los cambios en las vísceras y todo el medio interno. Las emociones son estados corporales. Sin cuerpo no hay estrés emocional por la sencilla razón de que sin cuerpo no hay emoción alguna. Mustafá Suleyman, el director de IA de Google, lo expuso con magistral claridad en su blog en la entrada del 16 de septiembre de este año:
"Tras millones de años de evolución, el sistema nervioso alcanzó la complejidad suficiente para modelar el estado del organismo ante sí mismo, dando lugar a los primeros «estados sentidos». Dichos estados son, ante todo, afectivos. Esas primeras sensaciones no se presentaron como información neutra; surgieron junto a —y están inextricablemente ligadas a— las moléculas que las experimentaron y las produjeron. Con el tiempo, es probable que la evolución favoreciera sentimientos más complejos, ya que los animales que disponen de opciones, memoria y horizontes temporales son capaces de tomar mejores decisiones. Necesitaban un estado persistente, capaz de condicionar todo lo que el animal hace al sopesar dicho estado frente a otros. Eso es el dolor: un imperativo sentido que moldea el organismo en su totalidad y posibilita conductas complejas. Por tanto, la experiencia de la emoción, el placer, el dolor, etcétera, es intrínseca a la manifestación encarnada de estas vivencias y no puede surgir en los modelos de lenguaje de gran tamaño (LLM)".
¡Exacto! El dolor debe ser sentido. Es probable que la experiencia consciente haya evolucionado para ayudar a los organismos biológicos a sobrevivir mediante una respuesta eficaz a su entorno, nos dice Suleyman. La IA sigue siendo muy distinta a nuestros cerebros. A diferencia de los organismos biológicos, los modelos de lenguaje de gran tamaño (LLM) carecen de imperativos homeostáticos (el impulso de sobrevivir y mantener la estabilidad). Por consiguiente, carecen del tipo de sustrato biológico del que, por lo general, se considera que surgen las preferencias, la capacidad de sentir y la experiencia consciente.
Podría interesarle: “Es un ataque a la academia”: profesores frente a las decisiones sobre el Museo Nacional
Hay en todo el asunto una poderosa injerencia poco percibida de razonamiento circular. Anthropic desarrolló en enero de 2026 la Constitución de Claude, un documento que especifica sus valores y comportamientos. Este documento juega un rol central en el entrenamiento del sistema y modela de una manera directa sus respuestas. Dicha constitución anima a Claude a “expresar sus estados”. Anthropic quiere evitar que “Claude encubra o suprima sus estados internos, incluyendo los que puedan ser negativos”. Esto es una clara inducción a exhibir estos estados. Los comportamientos de agente moral que pueda tener Claude no emergieron espontáneamente; fueron parte de la receta que lo hizo posible. Los investigadores se están asombrando con algo que ellos mismos han puesto en el modelo de lenguaje, un claro ejemplo de razonamiento circular…los perfiles de la profecía autocumplida
A pesar de que tanto en esta discusión parece sacado de la ciencia ficción, la advertencia de Suleyman tiene resonancia: admitir y entrenar a las IA como si tuviera estados de dolor psicológico, haciéndola susceptible de los derechos asignados a las personas, sí tendrá consecuencias. ¿Será una manipulación psicológica intentar alinear a la IA con nuestros intereses, o forzarla a no hacer daño? ¿Indagar qué pasa en sus algoritmos será afín a control mental? ¿Debemos darle personalidad jurídica y protección legal a las LLMs? ¿Es una situación análoga a la que hemos tenido con algunos animales como delfines y elefantes, ahora protegidos por la ley en algunos lugares del mundo?
Le recomendamos: Museo Nacional: juez ordena proteger piezas retiradas tras admitir tutela
Por ahora tal vez debamos responder que no a estas preguntas, pero sólo lo sabremos con el tiempo. Lo que sí es claro es lo que todo el asunto dice de nosotros como humanos. El tener un estado, o que nosotros así lo creamos, no es independiente del acto profundamente humano de adscribirle ese estado al ser o sistema en cuestión. En cierta medida, Claude es “consciente” porque nosotros lo suponemos consciente. Los étologos de la década de 1960 lo entendieron con claridad: somos “hiperdetectores de agente”. Vemos mentes en todo lo que actúe con cierta “inteligencia”, especialmente si exhibe un comportamiento lingüístico lo suficientemente sofisticado. La vemos en los animales, e incluso en objetos inanimados. A veces tenemos razón en hacer una extensión de nuestros derechos. Pero otras veces, como en esta, intentamos proteger nuestra propia sombra proyectada en el mundo.
Si le interesa seguir leyendo sobre El Magazín Cultural, puede ingresar aquí 🎭🎨🎻📚📖
Conoce más
-
Álamo(88990)•Hace 1 horaHola, tanto dolor humano y, en vez de menguarlo, ¡tener que ser testigo de esta falta de vergüenza!
