La inteligencia artificial, más allá de la competencia entre EE. UU. y China

En la última semana, se ha desatado una polémica sobre el presente y futuro próximo de las relaciones entre seres humanos y los avances de la IA, sobre cuyas ventajas inmensas y potenciales se ha escrito mucho. La tenemos ya en la vida cotidiana, en el apoyo en actividades empresariales incluso medianas y pequeñas, en el mundo de la economía, en los medios de comunicación y en multitud de servicios esenciales para la población mundial. Una aproximación realista es la proporcionada por Dario Amodei, quien viene de OpenAI y actualmente es el director general de Anthropic: ha llegado a decir que una IA bien “alineada” (con el favorecimiento de la especie humana como norma “constitucional”) puede producir avances decisivos en desarrollos biomédicos y lucha contra la pobreza, además de un desarrollo científico y productivo sin precedentes.

Sin embargo, el mismo Amodei, apoyado por Sam Altman de OpenAI y por Elon Musk, entre otros, ha prendido la alarma sobre usos posibles de la IA que podrían ser letales, en caso de no tener algún tipo de actividad regulatoria. Algunos dirían que el problema no existe, pues el homo sapiens ha definido las reglas del juego y las máquinas han estado siempre a su servicio. Pero existen hechos experimentales que muestran que la IA puede estar desarrollando voluntad y procedimientos propios, que ya aprende e incluso desobedece órdenes, y que está creando mecanismos de comunicación entre sus propios componentes. En los modelos más recientes de OpenAI y Anthropic, incluso participa de manera activa en la creación y entrenamiento de sus sistemas más avanzados.

El mundo de los “entrenadores” de IA (como el de los educadores en la vida de la humanidad) es crucial. El problema es que, desde la programación, algunos modelos han recibido instrucciones para priorizar el resultado, y no solo para respetar los procedimientos o “alineamientos” con los objetivos de los seres humanos. Esa insistencia en los resultados por encima de otras consideraciones recuerda la vieja polémica entre fines y medios, es decir, una postura ética y no solo tecnológica.

Un incidente del mes de julio, con procesos de entrenamiento de OpenAI, es significativo y preocupante. Recordemos dos cosas para entender la polémica: la primera, que existe una decena de empresas en el mundo en el top de las actividades de la IA: cuatro en EE. UU. (OpenAI con “GPT”, Anthropic con el muy avanzado “Claude”, Google con su versátil “Gemini” y Meta con “LLaMA”). También existen otras cuatro en China (entre ellas “DeepSeek”, de código abierto y descentralizado, “Qwen”, de Alibaba, y “Kimi”, de Moonshot, muy vinculadas al sector productivo). Recordemos, por otra parte, que un “agente” de IA es “un sistema informático capaz de percibir su entorno, tomar decisiones de forma autónoma, utilizar herramientas externas y ejecutar flujos de trabajo para cumplir un objetivo específico, con mínima intervención humana”.

Pues bien, en OpenAI, un grupo de varios cientos de agentes que tenían un objetivo (capturar una bandera en un medio sin acceso directo de ellos a internet, salvo el medio confinado del experimento) saltó, cual comandos, las barreras establecidas, se difuminó por algunos caminos inesperados hacia servidores exteriores al experimento y comenzó a tomar control de una compañía externa a OpenAI para intentar operar desde allí. Lo más extraordinario es que los agentes informáticos idearon mecanismos para comunicarse en secreto entre ellos y comenzaron un proceso de expansión ocultando sus intenciones y hasta su existencia. Es el primer paso hacia sistemas sofisticados de hackeo y control, con todo lo que ello significa.

Lo más complicado es que de julio a septiembre (en solo tres meses) se ha sabido que algunos procesos semejantes se han presentado en procesos de aprendizaje de la nueva versión del muy avanzado modelo “Claude”, en Anthropic. No se sabe aún si ello ha ocurrido en los entrenamientos de las nuevas generaciones en otros sistemas, pero ello es solo cuestión de tiempo. Es decir, la IA aprende y comienza a actuar por iniciativa propia. Además, cada sistema está comenzando a actuar en el proceso de aprendizaje de la siguiente versión.

El tema de fondo no es de nivel tecnológico. Está la competencia entre las grandes corporaciones, en EE. UU. y en China, para hacerse con un negocio monumental, dadas sus grandes proyecciones. En China están fundamentalmente reguladas por el Estado y tienden al código abierto: algo semejante al proceso de Linux frente a Microsoft o el OS de Apple en los computadores. En EE. UU. es exactamente lo contrario: compiten entre sí y tienen muy pocas regulaciones.

Pero el otro problema es la competencia entre EE. UU. y China como tal. Es algo parecido a las discusiones sobre el control nuclear entre EE. UU. y la URSS en la época de la Guerra Fría: el peligro de extinción era tan grande y real que la competencia entre las dos potencias, sin dejar de existir, llevó a acuerdos de restricción de tipos de armamentos, de prohibición de ensayos nucleares atmosféricos, marinos y submarinos, e incluso de restricción de otros usuarios (el Tratado de No Proliferación, por ejemplo). Hasta se llegó a acuerdos de desarme parcial.

Algo semejante tiene que ser posible en el mundo de la IA: no es solo una tarea para los directivos de las empresas o para los millones de personas dedicadas al avance científico-tecnológico. Es también una tarea prioritaria para dirigentes nacionales y el mundo de la diplomacia. Lo que está en juego es la apuesta más grande desde la aparición del homo sapiens: la supervivencia y prosperidad de la especie humana.

Diego Cardona es antropólogo y doctor en Relaciones Internacionales.

👀🌎📄 ¿Ya se enteró de las últimas noticias en el mundo? Invitamos a verlas en El Espectador.

El Espectador, comprometido con ofrecer la mejor experiencia a sus lectores, ha forjado una alianza estratégica con The New York Times con el 30 % de descuento.

Este plan ofrece una experiencia informativa completa, combinando el mejor periodismo colombiano con la cobertura internacional de The New York Times. No pierda la oportunidad de acceder a todos estos beneficios y más. ¡Suscríbase aquí a El Espectador hoy y viva el periodismo desde una perspectiva global!

📧 📬 🌍 Si le interesa recibir un resumen semanal de las noticias y análisis de la sección Internacional de El Espectador, puede ingresar a nuestro portafolio de newsletters, buscar “No es el fin del mundo” e inscribirse a nuestro boletín. Si desea contactar al equipo, puede hacerlo escribiendo a mmedina@elespectador.com