Los mercachifles de la IA

A menudo le pregunto a la IA Claude sobre sus propias limitaciones como tecnología. Las respuestas son más sobrias que las utopías futuristas de altos ejecutivos como Sam Altman, Sundar Pichai y Mark Zuckerberg, o las distopías de otros con personalidades más oscuras y apocalípticas, como Elon Musk. Ellos insisten en que estamos a la vuelta de la esquina de una Inteligencia Artificial General (IAG), un término impreciso para un futuro que es más una esperanza que una meta clara.

Los optimistas dicen que la IAG, cuando llegue, resolverá los grandes problemas de nuestra especie, como el cambio climático y enfermedades como el cáncer. A los que les gusta agregar una atrevida dosis de cinismo a su pose, como Musk, advierten que, de no ser muy cuidadosos con el despliegue de la IAG, podría detonar el fin de la vida humana o incluso planetaria. Ambas posiciones me parecen alocadas, pero más que todo, interesadas. No es casualidad que los exponentes más visibles de la IAG sean los empresarios que reciben dinero de inversionistas para escalar y desarrollar una tecnología que, por lo pronto, no produce mayores dividendos o incluso sólo genera pérdidas. Al menos para quienes producen el software. Las compañías responsables de la infraestructura, como los chips Nvidia, están en una bonanza sin precedentes.

La inteligencia artificial generativa, que es la verdadera innovación de los últimos años (IA hemos tenido durante décadas), en sus manifestaciones actuales es a la vez muy útil y no muy confiable. Es extremadamente costoso sostenerla y los estudiantes pueden usarla gratis para hacer trampa en sus escuelas y universidades. Puede reemplazar el trabajo de personas educadas que entran a empleos de oficinistas principiantes (o estos oficinistas pueden usarla para ahorrarse trabajo), al tiempo que su producción exige más supervisión de la que requieren los resultados de dicho empleado humano. Es una herramienta de una ambivalencia extrema.

Karen Hao, periodista que ha hecho el trabajo más completo hasta la fecha sobre el origen de OpenAI y su ChatGPT, describe la inteligencia artificial generativa como el cohete de la inteligencia artificial, por sus capacidades desmedidas, su costo y su dificultad para operar de forma precisa. ¿Necesitas un cohete para trayectos que puedes hacer en bicicleta?

Yo a esa metáfora añadiría otra: la inteligencia artificial es como una motosierra. ¿Le darías una motosierra a tu hijo para que la operara, si unas tijeras son suficientes?

El problema es que vender bicicletas y tijeras es muy pedestre. Aunque en 2019 Microsoft anunció una inversión de 1.000 millones de dólares para escalar el modelo generativo de transformadores pre-entrenados de OpenAI, GPT-2, Bill Gates no estaba muy impresionado con el producto porque no veía su utilidad en resolver problemas que le obsesionaban, como curar la malaria y el VIH.

Pero al salir de la habitación cuando OpenAI en 2022 le presentó GPT-4, dijo que había sido una de las dos demostraciones más impresionantes que había visto en su vida. Si Gates dijo la verdad, hubo un salto real, y precisamente por eso la apuesta a que vendrán otros saltos semejantes atrae a los inversionistas. Pero en el vacío entre “hubo un salto” y “verás los saltos que prometemos” es donde vive el mercachifle.

Desde entonces la carrera de la IA generativa ha sido esa: escalar en lo cuantitativo, porque en algún momento llegará el gran salto cualitativo. Ese salto está a la vuelta de la esquina, dicen. Hace un año estaba a un año, hace seis meses estaba a seis meses, ahora está a cinco años, o quizás menos, pero si no apuestas, si no te la juegas el todo por el todo ahora, cuando llegue estarás por fuera.

Es lógica de mercachifle.

Sobre todo porque la tecnología en sí tiene limitaciones estructurales que no es claro puedan superarse jamás. Si se las preguntas a Claude, él te las dirá. Incluso un modelo producido por una empresa con incentivos para inflar las capacidades de su tecnología admite estas limitaciones cuando se le pregunta directamente: las alucinaciones son parte de la arquitectura de la tecnología, el sistema no sabe cuándo está equivocado, tiene problemas para construir aprendizaje y memoria continua, la tecnología puede fallar cuando el entrenamiento base no coincide con el uso, la coherencia se degrada con el uso prolongado, en fin, hay más, y no son problemas menores.

¿Se resolverán? Nadie sabe. Y nadie sabe tampoco cuál es el objetivo de este proceso de escalamiento o qué es exactamente la IAG. Entretanto, el costo financiero, tecnológico y ambiental de cada mejora a la inteligencia artificial generativa es sustancialmente mayor que el de la mejora anterior. El costo de llegar de “bueno” a “muy bueno” es mucho mayor que llegar de “regular” a “bueno”.

¿Queremos seguir dándole un cheque en blanco a los mercachifles de la IA para que sigan, tuertos, acelerando en su cohete?

Threads: @santiagovillach