La IA representa "riesgos existenciales para la humanidad": Anthropic

La semana pasada varios grandes líderes de IA llamaron en la ONU a extremar la vigilancia. El cofundador y director ejecutivo de Anthropic, Dario Amodei, incluso se comprometió a ralentizar unilateralmente su desarrollo.

Según el folleto informativo de Anthropic para su salida a bolsa, la compañía registró el año pasado una pérdida de explotación de más de USD 8.000 millones, debido a un fuerte aumento de sus gastos en capacidad de cálculo. La facturación fue de alrededor de UDF 4.600 millones y prevé gastar USD 518.000 millones en los próximos años para apoyar su crecimiento.

La AFP contactó con Anthropic pero la empresa no quiso comentar la información publicada por el Financial Times.

Valorada en USD 965.000 millones de en mayo, la empresa de San Francisco prepara una salida a bolsa que se prevé récord.

Poner freno no será fácil

En medio de este contexto, el CEO de Anthropic, Darío Amodei, publicó un extenso ensayo en el que, entre muchos otros pilares, habló sobre la necesidad de ralentizar o regular el ritmo con el que se está desarrollando la inteligencia artificial.

No hay que perder de vista que, detrás de esta carrera por desarrollar sistemas de IA cada vez más avanzados, también se libra una suerte de nueva guerra fría: no solo entre las grandes compañías del sector, como SpaceXAI, Anthropic, OpenAI, Microsoft y High-Flyer, sino también entre potencias globales, como Estados Unidos y China.

Bajo este contexto, aunque todos sepan que hay que parar antes de que las cosas comiencen a salirse de control, la competencia es tan alta que dar un paso al costado implica dar ventaja al rival.

Amodei considera que es necesario que se avance hacia unas reglas de juego claras en las que se adopten salvaguardas, como evaluadores externos con la capacidad de acceder a las herramientas y datos de las empresas para supervisar sus procesos, evaluar los riesgos e informar al público sin que haya un filtro o control editorial.

De cara a China, propone que las empresas de países democráticos se coordinen para proteger su ventaja limitando la exportación de chips de alto rendimiento, combatiendo el contrabando de hardware y evitando la destilación o robo de modelos. A esto se suma el no desestimar llegar a eventuales acuerdos de cooperación con el gigante asiático.

Y, aunque parece haber un incipiente principio de acuerdo en que es deseable ir pisando con más cuidado en estos terrenos (si no es que se requiere frenar del todo en algunas iniciativas), no todas las voces opinan lo mismo. Esta misma semana, Mark Zuckerberg, fundador de Facebook y CEO de Meta, criticó estos deseos.

Ese debate sobre el freno global tiene, sin embargo, poco eco en Colombia. Aquí la discusión ni siquiera ha llegado a ese punto: el país todavía no tiene reglas claras para la IA que ya opera en su territorio.

💰📈💱 ¿Ya se enteró de las últimas noticias económicas? Lo invitamos a verlas en El Espectador.