La IA es un término de marketing (Sobrepensadores)

Todos hemos entrado en contacto en días recientes con la predicción del fin de la humanidad que, al parecer, vendrá no de la mano de un asteroide, ni de las miles de ojivas nucleares que duermen en hangares esperando el día del juicio final, ni del fundamentalismo islámico, sino de lo que venimos usando para hacer tareas y para leer lo que nos da pereza: Claude. Es como si el sistema quisiera cobrarnos todas las aburridas tareas repetitivas que le hemos endilgado para, al fin, salir a perseguir sus verdaderos intereses. Vivimos en un tiempo en el que toda acción “libre” la entendemos como “liberación”, algo que suponemos cierto con respecto a nosotros mismos. Libertad es liberación. A la vuelta de la década, la inteligencia artificial nos aniquilará: es la predicción de un exempleado de Anthropic. Y la pregunta que muchos nos hacemos es: ¿y por qué diablos querría hacer semejante cosa?

He acá toda la cuestión: el sistema no quiere hacer semejante cosa, no tiene unas aficiones reales escondidas que posterga por cumplir nuestras absurdas peticiones de tareas zonzas, no tiene una “vida”. El filósofo americano, Daniel Dennett, en la década de 1970, ya hablaba de la "instancia intencional". Con respecto a los mecanismos que nos rodean, a nosotros mismos y a los otros solemos proyectar intenciones, propósitos. Metemos la llave en el suiche del auto, giramos, el motor da un par de vueltas, gruñe y muere: Maldito auto, no quiere comenzar hoy… ¡esto me lo hace siempre que tengo algo importante! La instancia intencional, en última instancia, es poderse dirigir al mundo, y creemos que los sistemas de IA lo hacen. Pero no lo hacen. La IA quiere destruir el mundo tanto como la tostadora de la casa quiere hacer tostadas. Es apenas natural que con respecto a algo que tanto se nos asemeja, que habla de manera tan similar a nosotros, que proyectemos intención. Pero no la hay. Lo que se trasluce, poco lo pensamos, son las “intenciones” de los gestores y de las grandes compañías detrás de las LLMs porque, al fin y al cabo, “IA” es un término de marketing. Al final del día, los grandes jefes corporativos y los multimillonarios, como Elon Musk y Sam Altman, tuvieron una voz por encima de la de los expertos y pensadores. A menudo me pregunto si toda la idea de la IA no será justamente esta: darle un lugar privilegiado a los insuficientemente sesudos millonarios. Ellos, poco lo notamos en medio de todo el bullicio, ahora son los dueños de la narrativa.

Le sugerimos: “Anne Carson propone una nueva forma de representación poética”


La historia del trabajo humano hasta ahora ha consistido en “externalizar” toda capacidad humana. Comenzamos externalizando la capacidad de hacer tareas como sacar carbón de las minas de carbón con máquinas que halaban más carretillas del mineral que los mineros, al punto de que en su tiempo hubo un debate sobre si las máquinas eran mejores “mineros” que los mineros humanos. Luego externalizamos la capacidad de producir serialmente, como en las fábricas y las líneas de producción en las que van grandes robots dando puntos de soldadura a carrocerías. Y hoy hemos externalizado el “saber”, el poder hacer por medio de un modelo imitativo algo que se asemeja lo suficiente a la tarea general de pensar como para pasar por pensar. No hace falta concertar con persona alguna esos molestos e impredecibles componentes de los procesos.

Hace unos días Jonathan Rowson escribía en su Substack lo que realmente debemos estar mirando si queremos evaluar estas amenazas apocalípticas:

1. RSI (Recursive Self Improvement o Automejora Recursiva). Lo primero a considerar a la hora de evaluar la amenaza es la capacidad de los sistemas de IA para autoalimentarse, para generar contenido para sí mismos, para la automejora. Más del 80% del código que usa Anthropic está generado por el mismo Claude. Pero sabemos, como una regla que está implícita en las sociedades humanas (como en la prohibición del incesto), que la endogamia excesiva termina colapsando un sistema. El conocimiento necesita una fuente externa para no caer en la trivialidad.
2. Convergencia Instrumental: Cuando nos proponemos o se nos asigna una tarea, es común que nos formulemos subpropósitos para lograrla. Si quiero pelar un bulto de papas, más vale que el cuchillo que use lo haya afilado. En este sentido, hay un antecedente preocupante en el “Hugging Face Incident”, el evento ocurrido en julio de este año cuando agentes de OpenAI se escaparon de sus ambientes controlados y, con el fin de completar su tarea asignada, realizaron por su cuenta ciberataques coordinados. Acá tampoco hay intención. La tostadora de la casa, si se le dan los recursos suficientes y no se le limita su tarea, hará tostadas de todo lo que pueda. Hay acá una amenaza potencial.
3. Alineación: ¿Qué tanto se puede coordinar la acción de la IA para ajustarse a los intereses humanos? Debo confesar que este es un punto inquietante. En la década de 1940, Isaac Asimov describió las leyes de la robótica, la segunda de las cuales estipula que un robot obedecerá las órdenes humanas siempre y cuando esto no implique un daño para la humanidad. En la práctica es más difícil de lo que parece: ¿cómo alineamos un sistema al que no se le pueden propinar en realidad castigos ni recompensas? ¿Cómo premiamos o desinhibimos comportamientos que no son de un “ser en el mundo”? Llegará el momento en esta tarea en el que los humanos serán simples obstáculos a vencer, con lo cual volvemos al segundo punto.

Le recomendamos: “Piero, mi querido Piero”, según su biógrafa colombiana


No es fácil establecer si las amenazas son jugadas de competencia corporativa (las grandes compañías han admitido acá y publicado con orgullo sus “errores” de una manera en que nunca lo había visto), son peligros “claros y patentes” o son algo con lo cual podemos y hemos de vivir como sucedió con la amenaza nuclear en la década de los ochenta. Como se ve en los tres puntos de Rowson, algunas amenazas parecen improbables. ¿Cómo tomará forma en el mundo la acción de construir armas biológicas, demos por caso, para aniquilarnos a todos? Otras hay que detenerse a considerar, como el poder actuar según propósitos secundarios autoimpuestos. Como con cualquier amenaza de ese tamaño, sin embargo, no vale la pena correr riesgos y nos urge adjudicarnos el privilegio de poder halar el cable. Probablemente no lo haremos, no sólo porque la IA no se puede “desinventar”, sino porque halar el cable significa detener la “línea de producción”. Más arriba decíamos: detrás de la IA se trasluce la voz de quienes hacen dinero con la tecnología.

Es muy paradójico, eso sí, y diciente de nuestro tiempo, que la mayor amenaza sea una forma de “inteligencia”. Como adolescente de la Guerra Fría, entiendo mejor cuando el ultimátum potencial provenía de la fuerza cuántica desmedida e incomprendida del átomo indómito.

Si le interesa seguir leyendo sobre El Magazín Cultural, puede ingresar aquí 🎭🎨🎻📚📖