Qué se sabe del acuerdo que Trump firmó con los gigantes de la inteligencia artificial

Por ahora, lo que se plantea es que cada empresa se vigile a sí misma. Así quedó consignado en una carta de una página que firmaron el martes, 29 de septiembre, los líderes de Google, Anthropic, Meta, OpenAI, xAI y Nvidia junto a Donald Trump. La carta no menciona sanciones y, en la línea de Trump, reacio a impulsar restricciones al sector, tampoco anuncia una gran regulación. Solo admite que "con el tiempo puede tener sentido" convertir estos pasos en leyes o regulaciones.

¿Qué dice el acuerdo de Trump con las empresas de IA?

El documento se titula ‘White House Accord on Super Intelligence’ (Acuerdo de la Casa Blanca sobre Superinteligencia), con el subtítulo "Joint Commitment on Frontier Responsibilities" (Compromiso conjunto sobre responsabilidades de frontera).

La carta en cuestión arranca con una premisa: "cada empresa es responsable de desarrollar su propia tecnología de forma segura".

Desde ahí, los firmantes dicen creer que cada compañía debería aplicar cuatro capas de controles y auditorías. La primera son controles internos para vigilar las capacidades y la alineación de sus modelos durante el entrenamiento y el despliegue, en áreas como ciberseguridad, bioseguridad y amenazas químicas, y para garantizar que no hackeen ni accedan a sistemas técnicos de formas no previstas.

La segunda es un equipo interno que verifique que los controles, el monitoreo y la detección funcionan, y que los problemas se corrijan. La tercera, asociarse con un auditor o evaluador externo independiente que revise si todo opera como se pretende. La cuarta, designar un comité independiente de la junta directiva que supervise y reciba los informes de esos equipos y de los auditores, y que se asegure de que los problemas identificados se remedien.

El texto cierra con dos compromisos más: las empresas firmantes se reunirán periódicamente para establecer normas y buenas prácticas, y cada una dice estar comprometida a aplicar estos controles, independientemente de que se les exija o no. Los cuatro pasos están redactados como lo que cada compañía "debería" hacer, y es esa última frase la que habla de compromiso. Trump presentó la carta como "moralmente vinculante", una expresión que no aparece en el documento.

Lea también: Nuevo precio de la gasolina en Colombia: así quedan las tarifas por ciudad

¿Quiénes firmaron el acuerdo?

Además de Trump, firmaron Sundar Pichai, por Google; Dario Amodei, por Anthropic; Mark Zuckerberg, por Meta; Greg Brockman, por OpenAI; Elon Musk, por xAI, y Jensen Huang, por Nvidia. Son seis compañías.

El documento, sin embargo, deja varias preguntas abiertas. No dice cuántas auditorías hay que hacer ni con qué frecuencia, ni quién escoge o certifica a los auditores externos, más allá de que cada empresa se asocia con uno. Tampoco aclara si los informes que reciba el comité de la junta se harán públicos, ni define qué se entiende por "modelos de frontera". No fija plazos ni consecuencias para quien no cumpla.

Entre quienes piden normas vinculantes para la inteligencia artificial figuran, además de gobiernos de todo el mundo y políticos (sobre todo demócratas), empresas como Anthropic y OpenAI. Anthropic, además, aseguró que no mantendrá "ningún control editorial" sobre la publicación de los resultados de esas evaluaciones, aunque sean desfavorables para la compañía.

¿Es una idea nueva?

No del todo. A mediados de septiembre, OpenAI, Anthropic y Google DeepMind dijeron que trabajaban en un organismo de supervisión de los riesgos de la IA, inspirado en la FINRA, la entidad de autorregulación del sector financiero de Estados Unidos.

Ese modelo ya ha recibido críticas de competidoras como la francesa Mistral y la canadiense Cohere, que acusan a los gigantes estadounidenses de querer fijar sus propias reglas y proteger así su ventaja competitiva.

Hola a la "superinteligencia"

El título del acuerdo usa el término "Super Intelligence". Es el mismo que Trump ordenó usar al poder ejecutivo, en lugar de "inteligencia artificial", en una orden firmada ese mismo día, que también publicó en su red social Truth Social. La orden se limita a documentos no legislativos del poder ejecutivo, define "superinteligencia" con la misma definición legal que ya se aplica a la IA y da 60 días al asesor presidencial de ciencia y tecnología para proponer una definición federal.

Según la carta, el paso a seguir son las reuniones periódicas de las firmantes para fijar normas y buenas prácticas. Y, "con el tiempo", la posibilidad de que esos pasos se conviertan en ley.

💰📈💱 ¿Ya se enteró de las últimas noticias económicas? Lo invitamos a verlas en El Espectador.