La vigilia antes del sueño de la inteligencia artificial

A pesar de que los modelos de lenguaje que impulsan programas como ChatGPT, Gemini y Claude realizan una amplia variedad de tareas y de aparentar inteligencia, siguen cometiendo errores.

Foto: Pexels

En la mitología griega, Talos era un autómata de bronce que protegía a Creta de los piratas y los invasores. Se decía que lo había creado Hefesto, dios del fuego, y que lo había entregado Europa a su hijo, el rey Minos, como protector de la isla. Daba tres vueltas al día alrededor de Creta, ahuyentando a los forasteros, lanzando rocas contra los barcos que se acercaban. Su única debilidad era una vena que recorría su cuerpo y transportaba icor, el fluido vital divino. Al igual que en otros sistemas tan avanzados, cuya operación parece indistinguible de la magia, su invencibilidad era solo aparente.

Un día arribó a las costas de Creta el Argo, la embarcación que transportaba a la tripulación de héroes liderada por Jasón, en su viaje de regreso tras robar el Vellocino de Oro. Cuenta una versión del mito que la princesa Medea, quien se había unido a Jasón tras ayudarle a tomar la piel de un carnero mágico, encantó a Talos para que dejara de arrojarles rocas y lo engañó con promesas de inmortalidad para acercarse lo suficiente a su tobillo, único lugar de su cuerpo en el que su debilidad estaba expuesta, y removió el tapón que mantenía el fluido vital en su cuerpo, causándole la muerte.

Así como Talos, los impresionantes servicios de inteligencia artificial que ahora forman parte de la vida cotidiana nacieron con una debilidad intrínseca. Los modelos de lenguaje que impulsan programas como ChatGPT, Gemini y Claude son capaces de realizar una amplia variedad de tareas y de aparentar lo que llamamos inteligencia. Sin embargo, por muy potentes que sean, siguen cometiendo errores y pueden comportarse de manera indeseable. Fueron entrenados con enormes cantidades de contenido de Internet, por lo que pueden proporcionar información problemática y peligrosa. Para reducir ese comportamiento, sus desarrolladores introducen barreras para ajustar las respuestas de los modelos, límites definidos por los humanos que los financian.

“El puñado de personas que están difundiendo esta tecnología por todo el mundo se rigen por una ideología de control (sobre la humanidad) y por la convicción de que las máquinas son, sin excepción, mejores que los seres humanos”, escribió recientemente el economista ganador del Premio Nobel Daron Acemoglu. No es un secreto que los magnates tecnológicos de nuestro tiempo comparten una visión a largo plazo de la humanidad como una especie intergaláctica, en la que los humanos de carne y hueso de este planeta no somos más que un incómodo paso intermedio. Y mientras los “líderes de opinión” hasta ahora parecen despertarse a los riesgos de la aplicación de la inteligencia artificial en campañas electorales, un riesgo aún mayor se cierne sobre la estabilidad de las naciones con la orientación de recursos para desarrollar sistemas aún más poderosos para moldear el futuro, a costa de la sanidad, la educación y el bienestar de los humanos de hoy.

Aún no he podido decidir si somos Talos, engañados con promesas de inmortalidad. A lo mejor somos los cretenses, dormidos bajo el abrigo de una herramienta falible. A lo mejor somos los dos, viviendo en tiempos de cambio e ignorantes de las sorpresas que nos depara el futuro cercano.

👩‍🔬📄 ¿Quieres conocer las últimas noticias sobre ciencia? Te invitamos a verlas en El Espectador. 🧪🧬