22 Apr 2021 - 7:03 p. m.

Decisiones automatizadas, ¿una necesidad en la función pública de la región?

La implementación de la Inteligencia Artificial en el aparato estatal se ha convertido en una prioridad. Un informe de Derechos Digitales analiza cuatro casos en la región.

Redacción Mundo

Internacional

Desde hace años figuras del mundo académico, político y económico vienen advirtiendo que si Latinoamérica quiere acortar o por lo menos mantener la brecha que hay con los países más desarrollados debe empezar cuanto antes labores que involucren a la tecnología en sus aparatos estatales. El reto es enorme, pues requiere bases éticas y garantías para que no se violen los derechos humanos de la población. Un informe de la organización chilena Derechos Digitales analizó cuatro casos en cuatro países diferentes de la región (Colombia, Chile, Uruguay y Brasil) que han empezado a utilizar procesos automatizados para optimizar procesos en diferentes campos. Estas fueron algunas de las conclusiones.

Lo primero que encontraron es que si bien en los países se habla de Inteligencia Artificial (IA), en realidad no lo es, pues “el concepto de IA engloba distintos tipos de aplicaciones y ha sido considerado insuficiente y confuso cuando se trata de analizar implementaciones concretas; en ese contexto, la idea de “toma de decisión automatizada” (o Automated Decision Making, ADM) ha sido adoptada de manera alternativa para referirse a tales sistemas. (...) En el caso latinoamericano, si bien se observan esfuerzos por parte de los gobiernos de promover sus iniciativas bajo la idea de IA, tales esfuerzos son todavía incipientes aunque cada vez más generalizados.”, señala el documento.

Puede leer: La metamorfosis de Bolsonaro frente al cambio climático está llena de promesas poco fiables

El informe, además, asegura que en las cuatro investigaciones se tomó cualquier tipo de tecnología como un elemento neutral, antes de sacar cualquier tipo de conclusión. Frente a la crisis que ha desatado la pandemia se piensa que la tecnología nos salvará, pero esta visión, si bien es posible, tiene sus riesgos: “el más inminente en materia de privacidad no es la construcción de un Estado autoritario, sino la existencia real, palpable, evidente ,de un Estado negligente”, afirma la académica argentina Beatriz Busaniche.

Brasil y su Sistema Nacional de Empleo

El año pasado el gobierno brasileño de Jair Bolsonaro y Microsoft lograron un convenio para implementar herramientas de “Inteligencia Artificial” en su portal de vacantes del Sistema Nacional de Empleo (SINE). Esto con el fin de resolver las consecuencias negativas que ha dejado la pandemia de COVID-19 en el sector laboral. El proyecto tiene dos grandes objetivos, según los investigadores del caso: Analizar la correspondencia entre trabajadores y vacantes y el perfilamiento de trabajadores.

De Brasil llaman la atención dos cosas. La primera es que la fuerza laboral hasta el año pasado era de 86 millones de personas. Lo segundo es el acceso a internet, “Según datos del Comité Gestor de Internet en Brasil (CGI.br), en 2019 aproximadamente 47 millones de personas no contaban con acceso a internet, lo que significa que casi un cuarto de la población no tenía acceso a la red”.

Aunque el impacto del proyecto no se ha podido evaluar porque no se ha implementado, la investigación saca algunas conclusiones y subraya posibles riesgos. Una de las más importantes tiene que ver con la forma en que la herramienta tecnológica regula y afecta las oportunidades de los desempleados. “Dado que una de las principales funciones del uso de la IA en la intermediación del SINE es la selección de qué vacantes se ofrecerán al trabajador según reglas y criterios que no son transparentes, como es recurrente en la mediación algorítmica, el funcionamiento de la Toma de Decisión Automatizada incide directamente en las posibilidades de acceso del trabajador a oportunidades laborales”, señalan los investigadores.

Protección a la infancia en Chile

Chile implementó recientemente Sistema Alerta Niñez (SAN), un programa piloto que busca preservar la protección a la infancia. “El objetivo del SAN es estimar y predecir el nivel de riesgo de niñas, niños y adolescentes (NNA) de sufrir alguna vulneración en sus derechos en el futuro, mediante un análisis de datos de diferentes fuentes administrativas, para poder anticipar e intervenir de forma temprana y preventiva en cada caso”.

Una de las grandes preocupaciones de la investigación se basa en la cronología de cómo fue concebido el proyecto, es decir, que el Sistema Alerta Niñez “se pensó incluso antes de ser gobierno, se licita y diseña en 2018, para posteriormente crear la institucionalidad que lo utilizaría en 2019. En pocas palabras, primero el instrumento, luego la política; primero el sistema algorítmico predictivo, luego el personal y oficinas para la gestión de los casos de NNA. Esto sugiere una fuerte determinación de la política social por parte de lo tecnológico”.

El informe agrega: “Valorar el componente humano en la toma de decisión y combinar la priorización de modelos predictivos con otros insumos como las alertas territoriales parecen ser un buen remedio ante los riesgos de automatizar por completo el SAN. Las sobreexpectativas de que con un sistema tecnológico se iba a poder ‘llegar antes’ en materia de protección de niñez, se vuelve más compleja en la práctica, pero puede valer la pena el intento”.

COVID-19 en Uruguay

La pandemia obligó a casi todos los gobiernos a crear aplicaciones para rastrear la expansión del virus en la población. El Ministerio de Salud de Uruguay creó UY, una plataforma gratuita. “Resulta interesante observar la implementación de tal iniciativa en un contexto de relativa madurez normativa e institucional en lo relacionado a la digitalización del sector público. El país no solo es reconocido en la región como un líder en iniciativas de gobierno electrónico, si no también como uno de los que tiene una de las normativas de protección de datos personales más avanzadas. A lo anterior es necesario agregar que Uruguay es uno de los países con mayor penetración de internet en su población, siendo el único país considerado en el estudio que ofrece la garantía de acceso universal por hogar”, afirma el documento.

Actualmente la herramienta sigue vigente como una de las estrategias digitales del gobierno para combatir la pandemia. El análisis no dio muestras de encontrar algún elemento discriminatorio en el uso de la aplicación y “en teoría habría protecciones suficientes en términos de la recolección y acceso a datos por parte de los distintos agentes involucrados en la iniciativa. Sin embargo, las nuevas excepciones al acceso compartido de datos sensibles implementadas durante la emergencia sanitaria abren espacio para preocupaciones sobre un eventual mal uso de datos recolectados a partir de la aplicación”.

Si bien el proceso de creación no llevó participación civil, un factor clave, el informe asegura que “la articulación público-privada fue crucial para que se instalara una respuesta ágil a nivel tecnológico, que pudiera complementar una serie de medidas previas de vigilancia epidemiológica. El hecho que pudiera desarrollarse durante un proceso de cambio de gobierno de manera exitosa es también una señal positiva respecto de la fortaleza institucional estatal con independencia del gobierno. Si tales condiciones o resultados se mantienen, y si las medidas resultan suficientemente efectivas respecto del problema que vienen a enfrentar, el caso podría incluso aproximarse a considerarse como exitoso”.

Colombia pone la lupa en la justicia

Colombia es otro de los países que ha comenzado a experimentar con procesos automatizados que optimicen procesos estatales. PretorIA, por ejemplo, es un proyecto de inteligencia artificial en desarrollo, instaurado por la Corte Constitucional, que busca hacer más eficiente el proceso de selección de los casos de tutela judicial de los derechos fundamentales. El informe sobre dicha tecnología fue llevado a cabo por Dejusticia.

En principio, PretorIA fue desarrollado en 2020 “para mejorar la eficiencia del proceso de selección, en un contexto de sobrecarga de trabajo debido a la cantidad de demandas de tutela presentadas -más de 620 mil expedientes de tutela se remitieron al alto tribunal en 2019-. Gracias a la detección automatizada de categorías previamente definidas por la Corte, presentadas en estadísticas, fichas resumen o buscadas directamente, los agentes humanos contarían con más información previa para desarrollar su labor de selección de los casos de tutela. Lo que se derivará, en palabras de la Corte, en una mejora en términos de tiempo y conocimiento”.

Una primera conclusión de la investigación es que, teniendo en cuenta que este sistema no es el primero en su clase, sino que viene después de Prometea, la estrategia de comunicación debe hacerse de la mejor manera para dejar claro que no son lo mismo y que las críticas que se le hizo a ese sistema anterior se corrigieron en PretorIA.

El documento destacó que “si bien la Corte Constitucional no realizó el desarrollo de programación, conformó un equipo experto que tenía total dominio del campo y determinó las funcionalidades e interfaz del sistema de acuerdo a sus necesidades”. Además, “la Corte está acompañando el desarrollo de la creación de capacidades técnicas. No está recibiendo una herramienta sino la está haciendo suya. Ha constituido un equipo técnico propio, con cuatro personas con conocimiento en inteligencia artificial y ciencia de datos. Y sobre todo, no va a desplegar el sistema hasta que este equipo tenga plena comprensión del sistema e incluso realice, ya internamente, las adaptaciones o cambios que crea pertinentes”.

Un último punto clave, en el que Dejusticia no ve potenciales vulneraciones a los derechos humanos es que en el sistema “el humano mantiene la toma de decisión sobre la preselección, pero ya no lo hace sobre un texto bruto, sino sobre la información de que concurren en el caso aquellas circunstancias o situaciones predefinidas. En este sentido, como analizamos, PretorIA tiene la potencialidad de contribuir a la eficiencia y transparencia del proceso de selección”. Para la organización, aunque todavía se trata de una iniciativa, tiene un potencial prometedor cuyo futuro, sin embargo, todavía es incierto.

Comparte: