ONU da alerta roja por uso de IA: ¿cómo regularla?

Esta semana, la inteligencia artificial volvió a las primeras páginas por una razón que debería inquietar a la comunidad internacional mucho más que las habituales discusiones sobre productividad o competitividad. Jacob Coxon, investigador que acaba de renunciar a Anthropic, escribió que quienes construyen la IA creen seriamente que esta podría “matarnos a todos” antes de que termine la década. No fue una voz aislada. Evan Hubinger, líder de alineación de la misma compañía, estimó en más de un 10 % la probabilidad de ese desenlace en los próximos diez años, y un exingeniero de Google DeepMind se sumó a la advertencia. Lo más llamativo vino después: los directores de Anthropic y OpenAI pidieron moderar el ritmo de la carrera tecnológica y aceptar evaluadores externos en sus laboratorios.

La reacción institucional no se hizo esperar. El 14 de septiembre, el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, publicó una carta abierta en la que pidió a Estados y empresas actuar con urgencia frente a riesgos “sin precedentes”. Su diagnóstico es contundente: la autorregulación voluntaria es insuficiente y “ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo”. Reclamó verificación independiente de las capacidades de los sistemas, reporte de incidentes y debida diligencia en derechos humanos. Ese mismo día, Donald Trump respondió que la única “barrera de protección” que necesita la IA es un presidente “fuerte e inteligente”, y denunció una “enfermiza conspiración” contra la IA.

No creo que debamos caer en el alarmismo. Nadie sabe si las predicciones sobre una eventual extinción humana se materializarán. Pero tampoco es razonable esperar a tener certeza científica sobre una catástrofe para empezar a construir las instituciones capaces de prevenirla. El derecho ambiental internacional lo aprendió hace décadas: el Principio 15 de la Declaración de Río, que acuño el Principio de Precaución, advierte que la falta de certeza científica absoluta no puede servir de excusa para postergar medidas eficaces.

La buena noticia es que no partimos de cero.

Un derecho de la IA en construcción

Se repite con frecuencia que la IA vive en un vacío jurídico. Eso solo es parcialmente cierto. No existe un régimen internacional integral, pero en pocos años ha aparecido una cantidad extraordinaria de normas, principios y estándares que, vistos en conjunto, configuran un derecho global emergente.

La Unión Europea tiene el instrumento más desarrollado. Su Reglamento de IA clasifica los sistemas según su nivel de riesgo, prohíbe ciertos usos desde 2025, impone obligaciones a los modelos de propósito general y, desde el pasado 2 de agosto, es aplicable en términos generales. Pero conviene no exagerar: en julio, mediante el llamado Ómnibus Digital, Bruselas aplazó las obligaciones para los sistemas de alto riesgo hasta diciembre de 2027 y agosto de 2028. Ni siquiera Europa escapa a la presión de la competitividad.

El Consejo de Europa dio un paso todavía más relevante para el derecho internacional. Su Convenio Marco sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho, abierto a la firma en 2024, es el primer tratado jurídicamente vinculante en la materia. Lo firmaron también Estados no europeos; la Unión Europea lo ratificó en mayo, aunque aún faltan ratificaciones para su entrada en vigor.

A ello se suman los Principios de la OCDE, la Recomendación de la UNESCO sobre la Ética de la IA, el Proceso de Hiroshima del G7 y estándares técnicos como el marco de gestión de riesgos del NIST y la norma ISO/IEC 42001. Naciones Unidas, tras el Pacto Digital Global, creó un Panel Científico Internacional sobre IA y en julio celebró en Ginebra el primer Diálogo Mundial sobre su gobernanza.

Todos usan lenguajes distintos, pero cada vez hablan de lo mismo.

¿Una costumbre en formación?

Aquí surge una pregunta jurídica fascinante. Para que exista costumbre internacional no basta con acumular documentos: se requiere una práctica general aceptada como derecho. La Comisión de Derecho Internacional recordó en 2018 que las resoluciones de organizaciones internacionales no crean por sí mismas normas consuetudinarias, aunque pueden servir como evidencia o contribuir a su desarrollo.

Buena parte de lo descrito es soft law, y la posición de Washington demuestra que la práctica está lejos de ser uniforme. Pero sería prematuro despreciar su valor jurídico. Cuando Estados, organizaciones, empresas y organismos técnicos repiten los mismos principios —evaluación de riesgos, transparencia, supervisión humana, trazabilidad, rendición de cuentas y reparación— estamos frente al material con el que se forman las normas internacionales. Más que una costumbre consolidada, tenemos una costumbre en gestación que conviene construir conscientemente.

Tres modelos en disputa

La regulación revela también una disputa geopolítica. La Unión Europea apuesta por los derechos fundamentales y los niveles de riesgo. Estados Unidos mantiene un enfoque fragmentado, hecho de estándares técnicos, reglas sectoriales y leyes estatales que la Casa Blanca ha intentado neutralizar en nombre de la competencia con China. Y China combina regulación tecnológica, seguridad y control estatal; en julio lanzó en Shanghái una Organización Mundial de Cooperación en IA con la que aspira a disputar el liderazgo normativo.

Pero los riesgos de los sistemas más avanzados no respetan fronteras. Un modelo desarrollado en California puede producir efectos en Bogotá, Bruselas o Pekín. Por eso, como advirtió Türk, ningún Estado puede gobernar esta tecnología en solitario, y la competencia entre jurisdicciones no puede convertirse en una carrera hacia el fondo.

Lo que ya podríamos construir

De los instrumentos existentes se puede extraer un catálogo mínimo: protección de los derechos humanos, evaluación de impacto, precaución frente a riesgos graves, transparencia, supervisión humana, auditoría independiente, reporte de incidentes y derecho a la reparación.

Los Principios Rectores de la ONU sobre las Empresas y los Derechos Humanos son aquí decisivos. Su lógica de “proteger, respetar y remediar” se traslada con naturalidad a la IA. Una empresa cuyo sistema selecciona trabajadores, concede créditos o vigila personas no puede refugiarse en la frase “lo decidió el algoritmo”. Debe identificar los riesgos, prevenirlos, mitigarlos y reparar los daños.

La evaluación de impacto algorítmico podría ser el equivalente funcional de la evaluación de impacto ambiental. Y los sistemas más avanzados deberían someterse a auditorías independientes y a mecanismos que permitan a las personas intervenir, corregirlos e incluso apagarlos. Que las propias empresas empiecen a aceptar evaluadores externos demuestra que nada de esto es utópico.

No se trata de detener la innovación, sino de hacerla gobernable.

¿Y Colombia?

América Latina no debería limitarse a copiar a Bruselas ni a esperar lo que decidan Washington o Pekín. Colombia cuenta con una Política Nacional de Inteligencia Artificial, adoptada mediante el CONPES 4144 de 2025, y en el Congreso cursan iniciativas inspiradas en el enfoque europeo de riesgos. El nuevo Gobierno y el Legislativo deberían pensar esa regulación también en clave internacional.

Colombia podría convertirse en un laboratorio regional de gobernanza de la IA basada en derechos humanos, articulando el modelo europeo, los Principios de la OCDE, la Recomendación de la UNESCO y los Principios Rectores. Podría, incluso, explorar su adhesión al Convenio del Consejo de Europa, que Uruguay ya firmó. Y la región podría construir una posición común para exigir que los países que no desarrollan los modelos más poderosos también tengan voz en las reglas que gobernarán sus consecuencias.

La verdadera elección no es entre innovación y regulación. Es si vamos a construir las reglas antes o después de que la tecnología nos obligue a hacerlo. Este es precisamente uno de los enfoques principales del Proyecto de Investigación sobre Inteligencia Artificial y Derecho que actualmente desarrollamos un grupo de once profesores de planta de la Facultad de Ciencias Jurídicas de la Pontificia Universidad Javeriana y del cual soy investigador principal.

Quizás nunca sepamos si las advertencias sobre una IA capaz de aniquilar a la humanidad eran exageradas o acertadas. Pero sí sabemos algo más concreto: ya existen sistemas capaces de afectar derechos, mercados y democracias a una velocidad que nuestras instituciones difícilmente pueden seguir. El desafío del derecho internacional de esta generación es convertir la convergencia de principios en una arquitectura global que mantenga a la IA al servicio de la humanidad, y que no nos recuerden como la generación que creó una tecnología sin haber aprendido antes a gobernarla.

👀🌎📄 ¿Ya se enteró de las últimas noticias en el mundo? Invitamos a verlas en El Espectador.

🌏📰🗽 El Espectador, comprometido con ofrecer la mejor experiencia a sus lectores, ha forjado una alianza estratégica con The New York Times con el 30 % de descuento.

Este plan ofrece una experiencia informativa completa, combinando el mejor periodismo colombiano con la cobertura internacional de The New York Times. No pierda la oportunidad de acceder a todos estos beneficios y más. ¡Suscríbase aquí a El Espectador hoy y viva el periodismo desde una perspectiva global!

📧 📬 🌍 Si le interesa recibir un resumen semanal de las noticias y análisis de la sección Internacional de El Espectador, puede ingresar a nuestro portafolio de newsletters, buscar “No es el fin del mundo” e inscribirse a nuestro boletín. Si desea contactar al equipo, puede hacerlo escribiendo a mmedina@elespectador.com o a cgomez@elespectador.com