¿Puede la inteligencia artificial aniquilar a la humanidad? Expertos analizan las alarmas

Esta semana, Jacob Coxxon, un exingeniero de Anthropic, renunció a su cargo y fue a tres cadenas de EE. UU. y dijo que la IA podría matarnos antes de 2030. Aunque luego matizó su propio mensaje, y aclaró que los modelos actuales «no representan un riesgo significativo» y que el peligro real empieza si la IA logra mejorarse a sí misma sin supervisión, sus declaraciones volvieron a encender las alarmas por lo que viene.

¿Cuál es el peor escenario?

En 2023, cientos de expertos en IA y dirigentes del sector tecnológico firmaron una «declaración sobre el riesgo de extinción asociado a la inteligencia artificial» y exhortaron a que se trate este tema con la misma seriedad que las pandemias o las armas nucleares.

Según Stuart Russell, profesor de informática de la Universidad de California en Berkeley, si una IA escapa al control y considerara que los humanos obstaculizan sus objetivos, podría utilizar robots para «sintetizar y difundir nuevos agentes patógenos».

Sin embargo, Russell subraya que esos riesgos no se aplican a los sistemas actuales.  El peligro inmediato, según él, es el uso malicioso de la IA por parte de seres humanos.

«En el próximo año o dos años, creo que el mayor riesgo radica en un uso indebido de la inteligencia artificial por parte de los seres humanos», por ejemplo para perpetrar un atentado terrorista. «Somos menos inteligentes que una IA superinteligente», sostiene el experto.

El pasado 10 de septiembre, de hecho, Anthropic publicó su informe de amenazas de septiembre 2026, con actividad registrada entre diciembre de 2025 y agosto de 2026, y ahí documentó cinco casos en los que usuarios intentaron usar Claude para investigaciones relacionadas con armas biológicas y patógenos peligrosos.

Vea también: Gigantes de la IA de acuerdo en poner un pie en el freno a su desarrollo

¿Por qué no se detiene el desarrollo de la IA?

Coxon, así como otros funcionarios de estas compañías, sostienen que estas plataformas no actúan de forma «responsable» en el desarrollo de la IA. Los laboratorios «comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (…) a pesar del riesgo», afirmó Coxon.

Anthropic retiró este año de su carta de seguridad el compromiso de detener el desarrollo de sus modelos si no podía controlar adecuadamente sus riesgos.

La compañía argumenta que, si suspendiera sus investigaciones, competidores menos prudentes acabarían imponiéndose en el sector.

«Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo», dijo Coxon, quien anteriormente trabajó en OpenAI, la empresa que creó ChatGPT.

Por esto, Coxon acusó a ambas compañías de «jugar con nuestras vidas» al intentar desarrollar modelos de inteligencia artificial capaces de mejorarse a sí mismos.

Los temores ante una IA fuera de control aumentaron después de que una tecnología de OpenAI, operando sin supervisión humana, lograra vulnerar Hugging Face, una plataforma que aloja modelos de IA.

Evan Hubinger, responsable de seguridad en Anthropic, le dio la razón a Coxon en X: «Creemos realmente que la IA podría matar a humanos». A título personal, «estimó ese riesgo en más de un 10 %» dentro de la próxima década.

¿Dar un paso atrás antes de perder el control?

Para Hussein Abbass, profesor de informática de la Universidad de Nueva Gales del Sur (UNSW) de Canberra, «la situación sigue siendo controlable».

No obstante, considera que los gobiernos deben actuar y desarrollar mecanismos regulatorios adaptables a medida que la tecnología avanza.

En julio, más de 1.000 trabajadores del sector, incluido el director ejecutivo de Anthropic, pidieron a Washington que respaldara una desaceleración coordinada en el desarrollo de los sistemas de IA más avanzados.

Sin embargo, algunos observadores creen que estas advertencias también contribuyen a proyectar una imagen de enorme poder tecnológico que puede atraer inversiones al sector.

Anthropic y OpenAI se preparan para debutar próximamente en bolsa.

Le puede interesar: Bill Gates advierte que la IA es más peligrosa de lo que la industria tecnológica admite

¿Qué hace falta para regular la IA?

Hasta ahora, Estados Unidos se ha mostrado firmemente contrario a una regulación global que podría frenar la innovación.

Aún así, las crecientes capacidades de ciberataque de los modelos más avanzados han llevado a Washington a replantearse su posición, y las últimas versiones desarrolladas por Anthropic y OpenAI se retrasaron por motivos de seguridad nacional.

Aun así, el presidente Donald Trump advirtió que no quiere imponer restricciones excesivas que hagan que Estados Unidos quede rezagado frente a China.

Para Stuart Russell, «podría ser necesaria una catástrofe comparable a la de Chernóbil antes de que los gobiernos actúen».

El investigador propone la creación de un sistema de licencias para la inteligencia artificial, similar al que existe en sectores como la aviación o la medicina.

👀🌎📄 ¿Ya se enteró de las últimas noticias en el mundo? Invitamos a verlas en El Espectador.

El Espectador, comprometido con ofrecer la mejor experiencia a sus lectores, ha forjado una alianza estratégica con The New York Times con el 30 % de descuento.

Este plan ofrece una experiencia informativa completa, combinando el mejor periodismo colombiano con la cobertura internacional de The New York Times. No pierda la oportunidad de acceder a todos estos beneficios y más. ¡Suscríbase aquí a El Espectador hoy y viva el periodismo desde una perspectiva global!

📧 📬 🌍 Si le interesa recibir un resumen semanal de las noticias y análisis de la sección Internacional de El Espectador, puede ingresar a nuestro portafolio de newsletters, buscar “No es el fin del mundo” e inscribirse a nuestro boletín. Si desea contactar al equipo, puede hacerlo escribiendo a mmedina@elespectador.com