En las zonas rurales de Colombia, un sistema de inteligencia artificial llamado Deméter, promovido por el Ministerio de Agricultura y Desarrollo Rural, se utiliza para realizar pronósticos climáticos a largo plazo, de modo que los campesinos puedan anticipar sequías o lluvias excesivas antes de sembrar. Por otra parte, Baloo, una herramienta del Instituto Colombiano de Bienestar Familiar (ICBF), utiliza cámaras de reconocimiento facial instaladas en 16 jardines infantiles de Medellín y Manizales para “identificar las emociones de los menores a lo largo de la jornada escolar.” El sistema trata datos biométricos de niños y niñas—una población con protección constitucional reforzada— y se apoya en una tecnología cuya validez científica es ampliamente cuestionada.
Estos dos casos ilustran la tensión constitutiva del uso de diferentes tecnologías de inteligencia artificial por parte del Estado: algunas, si son bien usadas, pueden contribuir a promover derechos y otras, si son defectuosas o mal gestionadas, pueden erosionar derechos. Ambos ejemplos provienen de la base de datos del proyecto Sistemas de Algoritmos Públicos, lanzado el año pasado por la Escuela de Gobierno de la Universidad de Los Andes, que ha identificado y documentado 265 sistemas de inteligencia artificial en el sector público colombiano, de los cuales 192 se encuentran en ejecución. Esta cifra sitúa a Colombia a la vanguardia latinoamericana, pues ocupa el segundo puesto entre los países con más sistemas de inteligencia artificial en operación en el sector público.
Consulte aquí: Menos nacimientos, más cuidado: el desafío que enfrenta Colombia (análisis)
Antes de 2019, había menos de 20 sistemas de inteligencia artificial en funcionamiento en el Estado colombiano. Entre 2020 y 2022 el ritmo de adopción se triplicó. Durante el gobierno de Iván Duque se pusieron en marcha alrededor de 117 sistemas de IA que hoy siguen en ejecución, mientras que en el periodo del gobierno de Gustavo Petro la cifra es de 71. La aparente desaceleración merece atención: puede reflejar tanto un cambio en las prioridades políticas como limitaciones presupuestales o institucionales.
Las tareas más frecuentes realizadas con este tipo de sistemas en el sector público son el reconocimiento de objetos y personas (124 sistemas activos), seguidas de la detección de eventos (84) y la predicción (61). Los sectores del gobierno que más concentran estos sistemas son justicia (40 sistemas activos), seguridad ciudadana (20) y medio ambiente (15). En cuanto al tipo de entidades, el poder ejecutivo concentra la gran mayoría (116 sistemas activos), y el 69% de los sistemas son implementados por entidades a nivel nacional.
Derechos fundamentales como la no discriminación, la protección de los datos personales y el debido proceso, entre otros, pueden verse comprometidos cuando el Estado despliega estos sistemas. Por ejemplo, alrededor del 60% de los sistemas de inteligencia artificial en ejecución requieren tratar datos personales para funcionar, lo que acentúa las obligaciones de protección del Estado colombiano.
Más información: Administración pública y descentralización: retos para el próximo gobierno (análisis)
También resulta llamativo el crecimiento de los sistemas de vigilancia estatal basados en tecnologías de inteligencia artificial, especialmente en el reconocimiento facial. Este patrón puede transformar profundamente la relación ciudadano-Estado. Cuando un gobierno puede rastrear en tiempo real a cualquier persona mediante cámaras con reconocimiento facial en el transporte público y en el espacio urbano, o anticipar conductas delictivas mediante modelos predictivos, se altera el equilibrio de poder entre el individuo y la autoridad. El riesgo no es solo técnico (por ejemplo, sesgos algorítmicos) sino también político: la posibilidad de una vigilancia masiva sin controles efectivos puede generar un efecto inhibidor sobre las libertades civiles.
Todo esto subraya la necesidad urgente de abrir un diálogo nacional e inclusivo sobre las condiciones para que el Estado colombiano despliegue sistemas de IA efectivos, eficientes y respetuosos de los derechos humanos. Este diálogo debe ir más allá de los principios éticos ya adoptados y avanzar hacia un marco regulatorio vinculante.
Es de su interés: Educación que asegure progreso y aprendizaje: una deuda inaplazable (análisis)
En el Congreso, más de veinte proyectos de ley sobre inteligencia artificial están en trámite, pero ninguno ha tenido una discusión suficientemente amplia. Aunque no hay respuestas únicas sobre cómo gobernar estas tecnologías, es indispensable deliberar sobre la relación Estado–ciudadano que se está configurando. En un Estado Social de Derecho, nuestro marco jurídico debe garantizar que la automatización no sea un fin en sí mismo, sino un instrumento proporcional para alcanzar fines legítimos y permita materializar los derechos consagrados en la Constitución.
*El autor es profesor de la Escuela de Gobierno de la Universidad de los Andes.
👉 Lea más sobre el Congreso, el gobierno Petro y otras noticias del mundo político.
✉️ Si tiene interés en más temas políticos o información que considere oportuno compartirnos, por favor, escríbanos a cualquiera de estos correos: hvalero@elespectador.com; aosorio@elespectador.com; dortega@elespectador.com; mbarrios@elespectador.com; lmejia@elespectador.com; ntorres@elespectador.com o jsperez@elespectador.com.
Por Juan David Gutiérrez, Escuela de Gobierno de Los Andes
