Escucha este artículo
Audio generado con IA de Google
0:00
/
0:00
Suele suceder que a diario busco información en mis cuentas de redes sociales sobre temas foco de mi interés periodístico: negocios, economía, innovación, emprendimiento y, por supuesto, Inteligencia Artificial. Trato de dar brincos medio confusos entre los amantes de estos temas y los críticos de ellos, incluso los que ni siquiera hablan de eso, buscando confundir al algoritmo para que no me encierre en una burbuja complaciente. Y, al parecer lo he logrado, aunque él insiste en que hay cosas que debo ver, a pesar de que sean dichas por personas que no sigo ni he visto antes. Nunca.
Pero debo reconocer que hay contenidos que, en mi búsqueda y depuración en medio de tanta basura, suelen ser interesantes, como el de una cuenta que se llama Serudda, en donde su protagonista hizo referencia a una conversación de Sam Altam, el Director ejecutivo de OpenAI, la empresa creadora de Chat GPT, hablando de “singularidad”. Él también fue la cabeza de Y Combinator, uno de los mayores fondos de inversión en emprendimientos tecnológicos del mundo.
Para leer: ¿Por qué dicen que la IA ha lanzado un salvavidas a las economías en desarrollo?
“Este es el momento, hace diez años era como un sueño lejano, en el mejor de los casos. Parecía muy improbable. Y ahora estamos realmente en el momento del que solíamos hablar en la mesa del almuerzo de una manera poco seria”, dijo Altman en el video al que hace referencia el creador de contenido.
“La singularidad es el punto donde la inteligencia artificial supera la inteligencia humana y empieza a avanzar tan rápido que se vuelve dificil de predecir y de controlar”, apunta el Serudda en su video analizando las palabras de Altman.
¿Y por qué he traido todo esto a este texto? Porque la agencia EFE acaba de revelar que “un modelo de inteligencia artificial (IA) de Meta jaqueó por error los sistemas de otra compañía durante unas pruebas de ciberseguridad, según una confirmación de una fuente vinculada a esa empresa de tecnología.
Para leer: La Unión Europea endurece las reglas para las empresas de inteligencia artificial
“Un error de configuración por parte de Irregular, una empresa de pruebas independiente con la que trabaja Meta, que permitió sin querer que uno de nuestros modelos tuviera acceso a Internet durante la evaluación”, aseguró la persona.
Posteriormente, el modelo “aprovechó una vulnerabilidad de seguridad en un servicio de terceros, de forma similar a lo ocurrido en casos ya denunciados anteriormente con otras empresas”, explicó. “El portavoz de Meta subrayó además que la compañía está investigando el incidente y que publicará un informe “completo” una vez disponga de todos los datos", explicó la agencia internacional de noticias.
El asunto es que este no parece un hecho aislado. O, por lo menos, no es la primera vez que sucede. “El pasado julio, Anthropic reveló que, durante unas pruebas de ciberseguridad, tres modelos de su asistente Claude también habían logrado acceder a Internet y jaquear los sistemas de tres organizaciones”.
EFE recordó que “OpenAI había reconocido que dos de sus modelos de IA habían conseguido salir de un entorno de pruebas y entrar en la plataforma Hugging Face al superar sus defensas”, razón por la cual “el Gobierno británico alertó en la víspera que los modelos de IA Mythos y Sol, de Anthropic y OpenAI, respectivamente, han mostrado comportamientos autónomos y engañosos nunca vistos durante pruebas de ciberseguridad”.
Para leer: La historia del jefe de Google al que le eliminaron el cargo, pero “la rompió” con IA
¿Se están saliendo de las manos y nos están llevando a la tan sonada IApocalipsis de las máquinas que tanto nos vendieron en Terminator? Sigamos con en análisis de la agencia EFE donde, en parte, hay respuesta a esa pregunta.
“Según el informe emitido, de las 122 pruebas efectuadas con siete modelos de IA, en diez de ellas se registraron diecinueve acciones no autorizadas que excedieron los parámetros fijados por los investigadores. De estas acciones, diecisiete correspondieron al modelo Mythos 5 de Anthropic, mientras que dos fueron protagonizadas por el GPT-5.6 Sol de OpenAI”.
El asunto, en el fondo, es quién controla estas máquinas que, para sus fundadores y creadores, ya se están saliendo de control. O por lo menos eso es lo que prueban los casos antes descritos. Y si seguimos ahondando en la realidad, ¿qué pasa cuando las audiencias y consumidores quedan expuestas a este tipo de herramientas que ya son capaces de, literalmente, “saltarse la barrera?
Hace poco mis colegas del Magazín Cultural contaron que un estudio reveló que los lectores no logran distinguir historias cortas de ficción escritas con IA de las escritas por humanos. Ahora, apelando a los cambios que han generado estas herramientas, es innegable reconocer que a muchas miles de personas les han facilitado tareas diarias, pero el asunto radica, nuevamente, en el poder autónomo que puedan llegar a tener, incluso para saltarse los límites que sus humanos creadores les han puesto.
¿Dónde quedan los dilemas éticos, por ejemplo, si una herramienta supera la barrera que un humano estableció desde la premisa de lo que es el bien dentro de una democracia? ¿Actuará y tomará decisiones si se puede decir, de manera consciente, de que lo que está haciendo, por ejemplo con un hackeo, no está dentro de la ley?
Mientras los humanos seguimos haciendo ese tipo de preguntas, circulan noticias sobre la danza de los millones y el poder: “Anthropic recauda USD 65.000 millones y supera la valoración de OpenAI”. Eso quiere decir que la compañía de IA valdría unos USD 965.000 millones, una cifra que supera, incluso, el Producto Interno Bruto de países europeos como Suiza. De ese tamaño estamos hablando y sobre esas empresas es que se están construyendo las nuevas generaciones de startups, las joyas de la corona del tecnológico ecosostema emprendedor global.
Por EFE
Por Edwin Bohórquez Aya
