No, la IA no nos va a aniquilar, pero hay otros riesgos

Estimado lector, si las noticias de las últimas semanas lo han dejado confundido y con una sensación de incertidumbre sobre el futuro de la humanidad, no se preocupe, ese era el objetivo de quienes las produjeron. También es una respuesta razonable a hechos que, sobre el papel, parecen contradictorios. No hay manera de entender que un día Dario Amodei, cofundador de Anthropic, lidere una carta en la que se advierte que la inteligencia artificial (IA) puede destruir a los humanos y que, a los pocos días, el mismo Amodei anuncie que el 25 % del código de Claude, su producto estrella, lo está escribiendo de manera autónoma la IA. ¿Vamos, acaso, hacia nuestra inevitable extinción? No, pero sí hay riesgos reales cuyas causas son humanas, demasiado humanas.

No vamos a reproducir el escándalo que surgió cuando un exempleado de Anthropic publicó en su cuenta de X que las personas con más poder dentro de la empresa temen estar construyendo una IA que incluso puede llegar a aniquilar la humanidad. Sobra con recordar que Amodei lleva años diciendo algo similar y que la carta que publicó fue también suscrita por Elon Musk, líder de xAi, y Sam Altman, de OpenAI. Si los líderes (estadounidenses, detalle no menor) de la industria están pidiendo regulación, y el presidente de Estados Unidos, Donald Trump, responde que la única salvaguardia necesaria es que él esté como presidente, ¿por qué escribimos un editorial que pide reducir el pánico a sus justas proporciones?

Bueno, porque esta historia ya la hemos visto antes y la rimbombancia de Amodei y compañía busca que la ciudadanía mundial no se concentre en qué es lo que en verdad está ocurriendo. Nótese cómo los reportes que dan estas empresas hablan de IA que “actúan por cuenta propia” y escapan de las limitaciones que los humanos les impusieron. Es decir, la responsabilidad no es de ellos, sino de esta figura abstracta, difícil de entender y casi que omnipotente.

La realidad es mucho más mundana. El incidente de Hugging Face, donde un agente de OpenAI logró saltarse los controles y hackear una empresa rival, ocurrió precisamente porque los humanos ya habían hecho algo similar y esos datos estaban en el material con el que entrenaron el modelo. Cory Doctorow, experto en el tema y crítico de las empresas tecnológicas, lo explicó así: “no crearon accidentalmente a Dios: crearon un software malicioso autónomo y luego fallaron en monitorearlo, lo que resultó en que ese software hizo algo que era predecible”. Es decir, humanos fallaron y luego vendieron un discurso poético para no asumir su responsabilidad.

Eso no quiere decir que no haya riesgos. Por supuesto que los hay: si seguimos construyendo sistemas opacos que pueden actuar sin vigilancia, un actor malicioso puede hacer mucho daño. La solución no son cartas abstractas, sino regulación rápida y efectiva.

Adicionalmente, lo que sí está pasando es la creación de un mercado que incentiva a las empresas a reemplazar humanos por IA, un proceso de automatización que, nos dijeron, iba a compensarse con los nuevos trabajos que se iban a crear. No ha sido el caso. Bill Gates lo dijo en la alarma que prendió hace poco: “¿Autorregulación en la herramienta más peligrosa jamás inventada? ¡No, gracias!”. Necesitamos estar hablando de impuestos al uso de la IA, de reservas para trabajos humanos, de ingreso básico universal, de leyes estrictas. Esa es la crisis que ya tenemos encima. ¿Y sí notan cómo los países como Colombia no tienen voz ni voto en estas discusiones? Todo se está decidiendo entre Silicon Valley y el régimen autoritario chino. Ese desequilibrio de poder no se lo inventó la IA, lo hicimos los humanos.

¿Está en desacuerdo con este editorial? Envíe su antieditorial de 500 palabras a elespectadoropinion@gmail.com

Nota del director. Necesitamos lectores como usted para seguir haciendo un periodismo independiente y de calidad. Considere adquirir una suscripción digital y apostémosle al poder de la palabra.