El Congreso tramita un proyecto de ley que crea la Infraestructura de Datos del Estado Colombiano (IDEC) para “orientar la toma de decisiones del Gobierno Nacional y Territorial” (artículo 1). El gobierno señala en cada oportunidad posible que IDEC permitirá que el Estado desarrolle y aproveche la Inteligencia Artificial (IA) en esa toma de decisiones. Esto ni es innovador, ni el proyecto desarrolla ese aspecto.
Gánale la carrera a la desinformación NO TE QUEDES CON LAS GANAS DE LEER ESTE ARTÍCULO
¿Ya tienes una cuenta? Inicia sesión para continuar
Que el Estado cuente con datos y tome decisiones con ellos no es novedoso. Hay, al menos, dos infraestructuras creadas para compartir datos en el ejecutivo -la plataforma de datos abiertos y los Servicios Digitales Ciudadanos- y, además, ya toma decisiones mediante procesos automatizados, no solo con IA.
El Estado colombiano toma decisiones automatizadas desde hace rato, como consta en el inventario de los sistemas de IA y de decisión automatizada de las entidades públicas realizado por Juan David Gutierrez y Sarah Muñoz-Cadena.
El ICBF usó IA con Betto, la aplicación para escoger operadores en hogares comunitarios que fue suspendida por quejas de aparentes fallas de funcionamiento y la posible generación irregular de orden de elegibilidad de los oferentes.
Pero, sobre todo, se usan otras metodologías que no deberían ser ignoradas. Por ejemplo, en el corazón del Sisbén está un algoritmo secuencial que determina la calificación de las personas. Por cierto, metodologías como la de algoritmos secuenciales no son emergentes, como sugiere el parágrafo del artículo 7 del proyecto.
Las principales novedades de este proyecto de ley son: IDEC será de creación legal -las otras no lo son-; el Ministerio TIC y el DNP equivocadamente consideran que IDEC no debe sujetarse a las reglas de la protección de datos; y, aunque la IA se menciona siempre que hablan del proyecto, el texto no desarrolla el rol de la tecnologías de analítica computacional en el aprovechamiento de los datos.
Ni en la motivación del proyecto de ley, ni en otros espacios, el gobierno explica las lecciones de lo que ya hace, tampoco da ejemplos sobre la forma como espera que los datos en la IDEC se usen para la toma de decisiones. Hay muchos vacíos y preguntas en torno a la IDEC, pero con lo que hay, y pensando en el propósito de procesar datos para la toma de decisiones dejo, especialmente para las y los congresistas, algunos puntos de análisis.
Primero, no importa que el foco del gobierno sea la IA, importa que el uso de cualquier proceso de automatización con máquinas o computadores para la toma de decisiones -incluidas tecnologías emergentes como la IA, pero no solo ella- debe tener salvaguardias. Se debe buscar que todas esas tecnologías queden cubiertas por la ley, que se garantice que se ajusten a la política de gobierno digital. Pero, todavía más importante, se deben respetar las normas de protección de datos y, en general, los derechos humanos.
Segundo, esta es una oportunidad regulatoria para reflexionar sobre la automatización de la toma de decisiones por el Estado. Por ejemplo, una cosa es que la tecnología sirva para ofrecer información para la toma de decisiones por humanos (como Pretoria, el sistema de la Corte Constitucional para apoyo en la selección de tutelas) y otra es automatizar la propia toma de decisión (como lo hace el algoritmo del Sisbén, ya mencionado). La primera son apoyos para la decisión, la segunda deja en manos de la tecnología la decisión. Esto es diferente.
Sea que se haga con IA o con otro proceso, cuando se automatiza la toma de decisiones por el Estado hay una serie de salvaguardas a incorporar:
1. Prohibir decisiones totalmente automatizadas, 2. Informar a las personas que en el proceso de toma de decisión se incluyó tecnología automatizada -indicando el tipo, el alcance y el responsable-, 3. Establecer una ruta para que las personas que se consideren afectadas por la decisión exijan explicaciones por seres humanos, en donde además se les informe las bases de datos que se usaron para llegar a la decisión, 4. Fortalecer las capacidades de investigación y sanción por parte de las autoridades de datos, 5. Garantizar mecanismos de transparencia algorítmica (¿Qué tal aprovechar para derogar el secreto legal que el Plan Nacional de Desarrollo le garantizó al Sisbén?), 6. Definir una moratoria en los casos en que la automatización de decisiones implique riesgos de perfilamiento y predicción que puedan afectar el ejercicio de derechos sociales, civiles y políticos, y 7. La provisión de tecnología por privados en estos procesos exige la máxima transparencia.
Esta discusión regresará en la próxima legislatura. El gobierno necesita más información y ampliar los procesos de participación, no basta con afirmar que es una idea novedosa e inexistente. IDEC será una nueva y costosa infraestructura soportada en proveedores privados que busca impulsar el uso de tecnología automatizada para la toma de decisiones, es una iniciativa que transita sin el decidido compromiso con el cuidado de nuestros derechos en una sociedad de datificación extrema.
