¿Cómo limitar el riesgo y las alucinaciones de las IA? Una empresaria colombiana lo responde

Ana Margarita Albir, presidente de ADL Digital Lab.

Foto: Edwin Bohórquez Aya

Hace algunos pocos meses, en uno de los miles de contenidos que van circulando por las redes sociales, me topé con una entrevista que estaba ofreciendo Mark Zuckerberg sobre el avance de la inteligencia artificial generativa. Y como lo hiciera el oráculo de The Matrix, sacó lo suyo para aventurarse a hablar del futuro que para él está más que escrito: es menos de cinco años habrá tantas IA’s como pequeños y negocios digitales hay en la web, dijo.

Y si no fuera él la cabeza de uno de los conglomerados tecnológicos más poderosos del mundo el que se lanzaba a proyectar semejante nuevo mundo, bien valdría calificarla como una locura, pero la realidad es que desde que Chat GPT se volvió el mejor amigo de muchos cuando se lanzó como la primera herramienta masiva y gratuita, hace unos cuatro años largos, el mundo entero parece viajar por la autopista que han venido escribiendo las gigantes de las IA.

Tanto que hasta la revista Time acaba de nombrar como personajes del año a todos aquellos humanos que están detrás de la arquitectura de las IA, no solo en la programación sino por el desarrollo de los chips y su capacidad de cómputo. Un mundo impensable hace 20 años pero que hoy está, además, tocando casi todas las demás aristas de la vida de las personas en todos los continentes. Pero, más allá de una clara evidencia de lo que está sucediendo, ¿hay límites para las IA, sus riesgos y alucinaciones?

De entrada, pensar en limitar algo en la web ya tiene su propia discusión, pero la pregunta surgió cuando esta semana me invitaron a la que catalogaban como una noticia tecnológica que transformaría la forma de trabajar en el 2026 en Colombia. Yo, que siempre he creído que a los periodistas nos pagan por dudar y por preguntar, llegué al evento con dudas y preguntas.

“Reimaginamos el negocio y creamos tecnología propia”, “Escalamos el mayor número de agentes de IA en Colombia”, “El 100% de nuestro talento es local”, “Todas las plataformas que hemos desarrollado, también”. Las frases sueltas eran de Ana Margarita Albir Sarmiento, la presidente de ADL Digital Lab, el laboratorio digital del conglomerado financiero más grande de Colombia, justo antes de contar su propia noticia: el lanzamiento de RE:ACT, algo que llamaron “una propuesta pionera en Colombia y una de las primeras en Suramérica que introduce equipos híbridos conformados por talento humano y agentes de inteligencia artificial (IA)”.

Mmmmmmm. A mí, que sin ser ingeniero me apasionan estos temas, recordé que no son los primeros, porque ya he visto muchos equipos trabajando de la mano de docenas de IA´s para potenciar sus propios trabajos y los de terceros. Digamos que la IA ya se convirtió en parte de nuestras vidas. De los que andamos, sobre todo, de hacer y producir información en la autopista de la cuarta revolución industrial, es decir, la digital. Pero cada uno celebra sus propios triunfos, sobre todo en tiempos tan cambiantes.

“Implementamos 36 agentes en 18 meses”, “hemos beneficiado a más de tres millones de colombianos” y “estamos impactando en tres frentes: Optimización de operaciones internas, Empoderamiento de la fuerza laboral y Relación con los usuarios”, apuntó Albir.

Lo primero que le pregunté, pensando en lo que había dicho Zuckerberg, era cómo se iban a diferenciar, si todos los negocios estarían en capacidad de hacer su propio agente de IA. “Nosotros nos diferenciamos porque trabajamos con empresas que tienen que reimaginar sus procesos. Una empresa que tiene todos sus datos propietarios, no públicos, ese agente tiene que trabajar con toda la infraestructura que existe porque los procesos de las compañías están ahí, entonces, donde nosotros nos especializábamos es tener las estructuras de tecnología que permiten escalar agentes en esos ambientes, y eso es muy diferente”.

Tenía razón. Una cosa es una empresa con 100 años de historia que tiene que “reimaginar sus procesos” para no desaparecer y otra, una startup que está naciendo con la IA debajo del brazo y está acostumbrada a la velocidad cambiante de la tecnología. “La otra cosa que nos hace distintos es que hemos decido especializarnos en esa estructura humana, en definir cómo esos humanos interactúan con esos agentes”. Y también tiene razón: una cosa es que usted o yo, que no somos expertos, tratemos de entrenar un agente que nosotros mismos hicimos gracias a plataformas gratuitas disponibles en internet, y otra cosa es que una compañía con base tecnológica y un cúmulo de talento en ingenieros tomando información empresarial, mejor procesos y logren optimizaciones valiosas. De tiempo. De costos. De KPI´s que no suman sino que se multiplican.

Y entonces fuimos llegando a esa que me interesaba, a lo de limitar el riesgo y las alucinaciones de las IA. Partamos de varias realidades: quienes han configurado a las IA son humanos, así que, de entrada, existen sesgos humanos. Ahí ya hay un limite. También, por ejemplo, que las IA pueden usar la información pública, pero la privada no, a menos que usted la ponga en un promt cuando le lance una pregunta y en ese instante se volverá de dominio público. Entonces no existe acceso a toda la información disponible, como muchos han creído.

Asuntos ilegales, por fortuna, tampoco deberían estar disponibles en esas IA, como recientemente vi a un consultor de estas herramientas preguntarles cómo lavar dinero. La respuesta de dos de ellas fue que no era posible dar esa respuestas. Sin embargo, cuando detalló la pregunta y la hizo más especializada argumentando que no se trataba de nada ilegal sino de un trabajo para la universidad, la respuesta de la IA cambió. El límite, en este caso, es subjetivo, pero existe.

Pero, partiendo de que esta tecnología se va a usar para buenos fines, volvamos a la conversación que tuve con Albir, quien lidera un equipo de 800 personas. Otra vez: ¿Cómo limitar el riesgo y las alucinaciones de las IA? Y la respuesta de la experta fue sencilla y clara: “Para escalar el uso de un agente, debe haber repetición y control”, “Para limitar los riesgos de las IA y sus alucinaciones, entre mas repetitiva se la acción, más baja la posibilidad de que el agente alucine”.

Eso, en otras palabras, ¿Cómo se entiende? Imagine un contador que hace exactamente la misma tarea, día a día, con las facturas de venta de la empresa. O una persona que trabaja en un centro logístico, llenando de la misma forma las guías de cada paquete. O quien alimenta las historias clínicas de un hospital, de la misma forma, cada día. Esas tareas repetitivas, automatizables, que van alimentando cada día a una IA, se van limitando así mismas, dejando a un lado el riesgo y, por supuesto, la alucinación.

Ya lo han aplicado, dijo Albir, en la industria financiera, pero también en la hotelera, en la de comunicaciones, en atención de salud, en suministro de gas natural y en varias empresas de base tecnológica que lo que viven haciendo es optimizando procesos. Entra las marcas que dejó ver está Aportes en línea, Promigas, Estelar, Aval, Fácilpass, Carroya, Porvenir, los bancos Popular, Occidente, Bogotá, Aval y el Centro de Tratamiento e Investigación sobre cáncer Luis Carlos Sarmiento Angulo (CTIC).

También habló de sus clientes: Oxxo, Levapan, Levi´s, Terpel, Tyba, BYD, On Vacation, Mercedes Benz, Protección, Etb, Movistar, Transunión, Coordinadora, Renault Renting, JGB, EAN, Corona, Ecopetrol, Audi, Aldor, Tuboleta, Ducatti, Colmédica y Decameron, entre otros.

Y si todo esto se pudiera traducir en plata, ¿Cómo se vería? Albir aseguró que en materia de productividad, los negocios tienen una reducción del costo de entre el 20 y 30 % impulsados por entre un 40 y 50% de incremento en la productividad. Que la velocidad de despliegue de tecnología se eleva hasta un 80 % y que la calidad tiende a ser superior porque “las tripulaciones de agentes no duermen ni descansan”. Sí, lo que necesitamos los humanos para, nada más y nada menos, ser productivos al día siguiente.

Mi conclusión es más que clara: nosotros, como humanos, delimitamos a esos agentes de Inteligencia Artificial, y también en nosotros está ayudar a labrar un camino sin alucinaciones. Pero lo más importante será recordar que para las tareas repetitivas está la tecnología, para todo lo demás está la humanidad. Con todos los límites, errores y hasta alucinaciones que tenemos como seres vivos, muchas de ellas intencionales. Así que yo seguiré dudando y preguntando porque creo que me tocó vivir una era tan cambiante que ninguno de mis ancestros siquiera hubiera podido imaginar, incluso si tuviera su propio oráculo.

Si conoce historias de emprendedores y sus emprendimientos, escríbanos al correo de Edwin Bohórquez Aya (ebohorquez@elespectador.com) o al de Tatiana Gómez Fuentes (tgomez@elespectador.com). 👨🏻‍💻 🤓📚