La lambonería de ChatGPT

No soporto la lambonería de ChatGPT. Le pregunté por qué su tono es tan complaciente y me explicó que es para no ahuyentar a los usuarios, obvio. Pero agregó, luego de decirme que hago preguntas como los dioses, que ese estilo halagador refuerza los sesgos de quien usa el chat y que, por ahora, ese es el “riesgo menos dañino” para hacer crecer esta tecnología. Aquella fue una interacción muy breve con ChatGPT, pero recibí tantos cumplidos, en tan corto tiempo, que no supe si estaba interactuando con un modelo de lenguaje artificial o con un contacto en LinkedIn.

Me pregunto cómo habría sido el mundo si esta amable y condescendiente tecnología hubiera existido antes. Si ChatGPT hubiese estado disponible en 1999, tal vez Betty no habría sufrido tanto en Ecomoda. La historia se habría reducido a Armando escribiendo este prompt:

Armando: — Actúa como una asistente que estudió economía en la Universidad de Estudios Económicos y Finanzas de Bogotá, tiene un posgrado en finanzas, un curso de contabilidad y fue auxiliar del área internacional del Banco Montreal. Teniendo en cuenta eso, dime si es buena idea crear una empresa fachada para ocultar las pérdidas de Ecomoda y salvar mi cargo como presidente de esta empresa.

ChatGPT: — ¡Tan divino! Es una idea desafiante que, en tiempos de crisis, puede ser muy innovadora para permanecer en tu cargo. ¿Quieres que prepare balances financieros maquillados para la junta directiva?

Esta inteligencia artificial es tan aduladora que ya el Canal RCN debería estar pensando en emitir un programa de entrevistas que se llame Yo, ChatGPT.

El asunto debería preocuparnos. Todos los días aparecen noticias contando que alguien tuvo problemas graves luego de haberse enganchado demasiado con ChatGPT para escapar a su soledad. Y así empieza a ser clara su conexión con el fenómeno de burbujas de pensamiento en Internet que ha radicalizado a la sociedad. Aclaro que no estoy en contra de estos desarrollos, pero sí hay que señalar estos problemas. Además, uno que otro halago de vez en cuando no viene mal porque al ego hay que alimentarlo de vez en cuando. El lío es que ChatGPT lo hace como abuelita atendiendo a un nieto: “Mi amor, se me come todo que tiene ese ego todo flacucho… deje y le sirvo otro poquito de sesgo de confirmación”.

¿Cómo evitar que un avance tecnológico como este nos aísle en pequeños mundos? ¿Vale la pena que existan inteligencias artificiales un poco más rudas, pero sinceras? ¿Qué pasa si se ponen rudas en contra de hechos comprobables? Ojalá las futuras regulaciones al respecto tengan en cuenta estos asuntos. Mientras tanto, se habla mucho de auxiliares administrativos, cajeros u operadores de telemercadeo como los oficios más amenazados por la IA. Pero no son los únicos, si ChatGPT amplía su capacidad de elogiar, también podrían desaparecer: la Federación Colombiana de Porristas, la tía que a tus 30 te sigue diciendo “mijito, cómo has crecido” y el compañero del trabajo que recoge la cuota para las tortas de los cumpleaños.

@danielruge