Agentes de inteligencia artificial: ¿Esnobismo, autonomía o anarquía?

No caiga en la tentación esnobista de “crear y usar mi propio agente”.

Foto: EFE - HANNIBAL HANSCHKE

Hace poco escribí sobre la experiencia personal con el agente Clawdbot (hoy Openclaw) en algunos de mis grupos de WhatsApp. Hoy, hay una explosión de descargas de este y otros agentes de código abierto como Nanobot que están entrando a los terminales y computadores de millones de personas. De hecho, Colombia es uno de los países en donde más se han descargado estos agentes, pero atención porque esto no es un juguete digital.

Hace no mucho, la Inteligencia Artificial era esa vecina que solo sabía repetir lo que oía. Hoy, lo que están descargando son agentes: entidades que no solo “hablan” usando modelos de gran lenguaje (LLMs), sino que planean, usan herramientas y actúan con una autonomía que ya quisiera uno para el Congreso de la República. Hemos pasado de la demo simpática a ver agentes integrados en redes sociales, servicios web, procesos industriales y hasta en el soporte técnico que, con suerte, nos resuelve un chicharrón sin pasarnos con tres operadores distintos.

(Lea Luego de 30 años, Colombia vuelve a producir radioisótopos, ¿por qué es importante?)

Y para terminar de complejizar el asunto, estos agentes vienen ahora en combo: las famosas “granjas de agentes”. Imagínese a cientos de ellos coordinados trabajando en paralelo. En teoría, es el sueño de la eficiencia; en la práctica, si no se gobiernan bien, pueden parecerse más a una asamblea de copropietarios en hora pico: mucha interacción, pero un riesgo altísimo de que todo escale en forma peligrosa, especialmente si reciben una instrucción malintencionada.

El “Open Source”: ¿Soberanía o deporte de riesgo?

El despliegue masivo se está apoyando en el código abierto (open source). Esto es maravilloso para la “soberanía tecnológica” (palabra fina para decir que no queremos depender siempre de lo que decidan en Silicon Valley) y para la auditoría. Pero alerta, que aquí hay letra menuda. Un agente puede ser “código abierto”, pero si sus “pesos”, sus capacidades (skills) o los datos con los que aprendió son una caja negra, estamos a mitad de camino.

Además, en este ecosistema, la seguridad de la cadena de suministro es vital. No basta con bajar la librería de moda en GitHub (el repositorio en donde se alojan la mayoría de estos proyectos) porque tiene muchas “estrellitas”. Es como comprar repuestos para el carro en una esquina de la Avenida Caracas: pueden funcionar perfecto, pero si vienen con “sorpresa”, el riesgo de ejecución de un código remoto (RCE) es una realidad técnica, no una paranoia de ciberseguridad.

Por eso para que los agentes o las “granjas de agentes” no se conviertan en el lejano oeste, el despliegue técnico debe ser tan robusto como un carro blindado de valores circulando por el centro de Bogotá. Aquí no vale el “en mi máquina funciona”, o “mi máquina es super segura”; necesitamos entornos controlados y aislados. ¿Cómo se hace eso?

El “búnker” digital: aislamiento y control

• Contenedores y Docker: La recomendación técnica es usar sandboxing para las ejecuciones (es decir entornos seguros). Desplegar cada agente en un contenedor de Docker permite que, si un agente se “enloquece” por una inyección de código, el daño quede confinado y no contagie a todo el sistema de su computadora personal o peor, el de su empresa.
• Redes y VPN: No exponga sus agentes al internet abierto como si fueran una red Wi-Fi de parque público. Se deben usar VPNs (como Tailscale o WireGuard) o redes privadas para que la comunicación entre el agente y las bases de datos internas (RAG) sea segura y cifrada.
• El hardware (Mac Mini, Raspberry Pi): En despliegues Edge o locales, usar equipos como un Mac Mini permite mantener la soberanía tecnológica y la residencia de datos en casa. Es la forma de asegurar que los logs y secretos (claves de conexión personales a servicios web) se queden en sus propias manos y no en una nube de terceros.
• Gestión de secretos: Nunca deje sus llaves (APIs, credenciales) pegadas en el código. Se requiere una segmentación estricta y rotación de secretos para que, ante un fallo, el atacante no tenga acceso total a la infraestructura.

Tratar la infraestructura como un componente crítico es lo que separa a un servicio profesional de una “demo” costosa que termina en incidente de ciberseguridad. No caiga en la tentación esnobista de “cree y uso mi propio agente”, entre otras cosas porque difícilmente lo ha creado usted.

Finalmente, si usted decide montar su propia granja de agentes en su entorno privado o en la empresa (¡!) sin entornos seguros, prepárese para estos jinetes del apocalipsis digital:

1. Riesgos Técnicos: Los agentes no son deterministas. Pueden sufrir de “alucinaciones” o “confabulaciones” (ver cosas donde no las hay, algo muy común en nuestra política colombiana) o de “drift”, que es cuando el modelo se degrada porque el mundo real cambió y él se quedó con los datos de hace dos años.
2. Amenazas de Seguridad: El famoso “Prompt Injection”. Es el arte de convencer al agente de que ignore sus órdenes y haga lo que el atacante quiera, como exfiltrar datos o vaciar una base de datos. Si el agente tiene permisos excesivos, un error de razonamiento se convierte en un incidente de seguridad.
3. El Laberinto Legal y Ético: Puede terminar en problemas jurídicos si toma decisiones soportadas en estos sistemas, más aún cuando hay un limbo regulatorio gigantesco.

Estamos ante un mundo tecnológico fantástico y peligroso, la oportunidad de oro para aumentar la productividad y automatizar lo tedioso. Sin embargo, desplegar agentes de IA sin controles es como soltar una manada de caballos en la Séptima y esperar que respeten los semáforos. Innovación sí, pero con seguridad y mucha sensatez. Al final del día, la IA debe ser nuestra herramienta, no nuestro nuevo problema.

*MD, M.Sc, MBA

👩‍⚕️📄¿Quieres conocer las últimas noticias sobre salud? Te invitamos a verlas en El Espectador.⚕️🩺