Dario Amodei, ¿un apóstol?

En 2021 Dario Amodei, su hermana Daniela y otros genios fundaron Anthropic, la compañía de inteligencia artificial (IA) creadora de Claude. La empresa nació bajo la filosofía de fijar límites y establecer controles en la utilización de la IA. A diferencia de OpenAI, cuyo fundador Sam Altman parece priorizar la generación de dinero.

En todo caso Anthropic, consciente de que la IA debe utilizarse para enfrentar la amenaza tecnológica china, firmó en 2025 un contrato con el Departamento de Defensa, pero estableció unas líneas rojas congruentes con una especie de Constitución de la IA: seguridad, rigor y responsabilidad. Claude no podría utilizarse para vigilancia masiva doméstica ni para armas completamente autónomas.

Esta posición la llevó a enfrentarse al secretario de Defensa de EE. UU. y al mismo presidente Trump, para quienes era inadmisible que una empresa de IA impusiera tales restricciones. La disputa llegó al punto de que Anthropic fue declarada como un riesgo de seguridad nacional, algo que no había sucedido con ninguna compañía estadounidense. Una especie de condena que se utilizó en el pasado contra empresas como Huawei. Anthropic demandó judicialmente al Departamento de Defensa alegando que esa medida era desproporcionada y tenía una motivación ideológica.

A principios de este mes Anthropic lanzó Claude Mythos, un nuevo modelo de IA con altísima capacidad para enfrentar los riesgos de ciberataques y cuyo uso es crucial para la seguridad de EE. UU. Seguramente se impondrá el pragmatismo. Anthropic no puede renunciar a los jugosos contratos con el Estado y el gobierno necesita esas poderosas herramientas tecnológicas para enfrentar los ataques a sus software y redes. Por esa razón el viernes pasado se llevó a cabo en la Casa Blanca una reunión entre Amodei y altos funcionarios del gobierno con el fin de aliviar la tensión entre las partes.

La IA, cada vez más decisiva para la protección de los Estados y la seguridad mundial, es una herramienta cuya regulación es imposible bajo los actuales parámetros normativos. Los legisladores no saben qué hacer.

Recientemente BBC News citaba una frase del biólogo Edward Wilson que describe bien el verdadero problema de la humanidad: “Tenemos emociones paleolíticas, instituciones medievales y tecnología casi divina”.