La paradoja de frenar la IA

La ironía volvió a repetirse esta semana. Amodei pidió desacelerar el desarrollo de los modelos más avanzados, Musk respondió “Dario is right” y Altman también respaldó el llamado. Pero apenas dos días después, Musk anunció la hoja de ruta de Grok 4.7, 4.8, 4.9 y 5, mientras Altman anunciaba un gran lanzamiento para esta semana y otros seis para DevDay. Anthropic, por su parte, sigue preparando su salida a bolsa. Todos hablan de frenar, pero nadie parece estar haciéndolo.

No hace falta concluir que están mintiendo. El problema son los incentivos: Anthropic no puede frenar mientras OpenAI siga avanzando, OpenAI no puede hacerlo si Google continúa y ninguno quiere dejarle el camino libre a xAI. Todos pueden preferir una carrera más lenta y, al mismo tiempo, saber que desacelerar por su cuenta equivale a ceder terreno. Todos quieren que la carrera vaya más despacio, pero nadie quiere ser el primero en desacelerar.

Eso no significa que los riesgos sean imaginarios. La IA puede facilitar ciberataques, fraude, manipulación y usos biológicos peligrosos, y esos problemas justifican controles, pruebas antes del despliegue y responsabilidades claras. Pero una cosa es reconocer esos riesgos y otra asumir que el siguiente modelo puede acabar con la humanidad.

Si ninguna empresa puede desacelerar sola, la solución evidente es regularlas y obligarlas a desacelerar juntas. Y ahí aparece el problema que señala David Sacks: la regulación puede terminar convertida en una barrera de entrada. OpenAI, Anthropic, Google y xAI pueden pagar auditorías, evaluadores, abogados y requisitos regulatorios multimillonarios, pero una empresa nueva no. Una regulación diseñada para controlar a los gigantes puede terminar protegiéndolos de sus futuros competidores.

Además, frenar también tiene costos. Anthropic acaba de asociarse con Novo Nordisk para utilizar Claude en el desarrollo de medicamentos. Mejores modelos pueden acelerar la investigación científica, encontrar vulnerabilidades, mejorar diagnósticos y ampliar el acceso a educación personalizada. Si retrasamos la tecnología, también retrasamos algunos de esos beneficios. El daño causado por una IA aparece en un titular, pero el medicamento descubierto tres años más tarde nunca aparece como víctima de una regulación.

Incluso la seguridad puede depender de seguir avanzando. Una IA capaz de encontrar una vulnerabilidad puede explotarla, pero también descubrirla antes que un atacante. Un modelo que entiende mejor la biología puede aumentar ciertos riesgos y, al mismo tiempo, ayudarnos a detectar amenazas y desarrollar tratamientos. Menos capacidad no equivale automáticamente a menos riesgo.

La prudencia no consiste en ignorar los peligros de la inteligencia artificial, sino en controlar los que podemos identificar sin convertir el peor escenario imaginable en una licencia para frenar todo lo demás. Hay que reducir los riesgos de ciberataques, fraude y usos biológicos peligrosos, pero también preservar la competencia, la investigación y los beneficios de mejores modelos. En tecnología, prudencia y lentitud no son sinónimos. A veces la decisión más prudente es seguir avanzando.