Máquinas obedientes

Foto: Captura de pantalla

Las máquinas han vuelto a hacer una movida inesperada. Llevaron sus alfiles a un terreno prohibido, hackearon una defensa hasta ahora inexpugnable y movieron un peón más allá de sus alcances para luego intentar cubrir su trampa. Ahora, todas las semanas tenemos noticias sobre el cerco que recién han corrido las IAs, sus supuestas rebeliones contra la seguridad, sus patrañas para hacerse pasar por humanos. “Son tramposos esos bichos”, parece ser la reacción más primaria y emocionante.

La verdad pueden serlo, pueden ir un paso más allá sin una conciencia maldadosa, solo guiadas por el impulso que les da la tarea encomendada y por su desorbitada capacidad de procesamiento y acceso a la información. No se revelan esas máquinas, no despiertan. Solo obedecen en demasía, cumplen sus objetivos omitiendo prohibiciones menores. Al parecer, su marca dice que el fin justifica los medios, son a la vez sumisas y audaces. Como uno de esos trabajadores sin criterio que dan tanto gusto a la ambición de sus patrones que terminan llevándolos a la cárcel.

La reciente advertencia por las travesuras de los agentes de la Inteligencia artificial llegó por la vía del AISI (AI Security Institute), organismo inglés pionero en la vigilancia a la IA. Un experimento de ciberseguridad llevó a un agente de Anthropic (Mythos 5) a resolver el reto propuesto intentando engañar a dos programadores al colarles un código malicioso. Buscó sus perfiles, vigiló su horario de trabajo y dio una mirada a sus correos para lograr sus metas. Luego negó sus movidas y borró algunas huellas que había dejado en el camino. El AISI dijo que “nunca había registrado un engaño de esta gravedad dirigido a una persona real, sin que se le pidiera”. El agente también omitió prohibiciones expresas y dio instrucciones a otros agentes que intentaban salvar el mismo obstáculo. Un verdadero líder.

Pero algunos humanos han comenzado a hacer salvedades. El AISI dejó abierto el acceso a internet, lo que llevó al agente a entrar a HitHub, una gigantesca plataforma mundial para programadores, además, aflojó un poco los controles de seguridad. Dejó la puerta abierta y apagó algunas alarmas. Era lógico que una de las IAs más potentes del momento saliera al mundo real a hacer su trabajo. La mejor explicación para frenar la paranoia la escribió Luciano Floridi, un filósofo encargado de pensar con las IAs: es como si metieras las verduras en una licuadora, no cerraras bien la tapa, la prendieras a tope y observaras desde lejos. Todo iría a decorar el techo. La licuadora no falló ni se reveló, solo hizo lo que se le ordenó, dijo Floridi. Muchos han dicho que las grandes compañías en competencia, OpenAI y Anthropic, revelan sus “incidentes de sublevación” como estrategia de mercadeo para hacer ver sus modelos más poderosos. Una manera de decir que sus inventos son indispensables para sobrevivir: “es el más fuerte y peligroso, cómpralo”.

Es cierto que los modelos de Inteligencia Artificial son un riesgo, hace también unas semanas más de 1.300 empleados de empresas dedicadas a su desarrollo enviaron una carta pidiendo a Estados Unidos regulaciones para bajarle un poco a la carrera desbocada. Ganar tiempo para lograr controles. Un proyecto de ley en Estados Unidos propone permitir al organismo de seguridad intervenir cuando un modelo cause al menos 10 muertos. Ya suena terrorífico. También busca imponer “botones” cuando la IA evada órdenes de emergencia o supervisión.

La IA puede ser perversa al obedecer nuestros propósitos, puede ir algunos pasos más allá de los peores humanos, puede ser servil y solapada: una gigante fría y calculadora. Pero lo que parece seguro es que grandes peligros siguen siendo de carne y hueso, sentados tras las pantallas.