A más de un año de la posesión del ministro que dijo que su bandera sería la, IA y a dos de iniciarse el gobierno del Presidente Petro, el 6 de agosto, se publicó para comentarios el borrador de la política nacional de Inteligencia Artificial (CONPES de IA). Con un brevísimo plazo de una semana, extendido en el último momento (así que todavía alcanzan) aún se puede revisar y comentar el que será el plan para desarrollar el escenario de la IA en el país.
A pesar de la visión apocalíptica del presidente Petro, el documento es más tecno optimista y se alinea con las políticas de IA que se construyen en la región. Sí refleja algunas de las prioridades importantes que este gobierno trae al debate, como la preocupación por la inclusión y la representatividad de comunidades. Presenta un buen diagnóstico en el que ofrece datos, algo difícil de conseguir en ese campo. Este documento va un poco más allá de decir que la protección de la propiedad intelectual es un elemento necesario en el desarrollo de la IA, sino que propone algunas líneas de trabajo.
En todo caso, sus propuestas son generales y amplias. El documento en general no tiene acciones específicas, ni asigna responsabilidades para entidades concretas, ni tampoco hace apropiaciones presupuestales porque eso, me dijo el DNP, “está pendiente” porque quieren integrar los comentarios antes de definirlo. Sin embargo, como eso no lo aclara el texto que está abierto a comentarios, me imagino que no soy la única que quedó con la impresión de estar comentando un plan incompleto.
Asumiendo esto, la pregunta es si una vez tengan las acciones concretas volverán a abrir a comentarios. Gran desafío, pues corren a contrarreloj. Escasamente tendrán un año para ejecutar, si consideramos que la experiencia nos muestra que los gobiernos suelen hacer borrón y cuenta nueva con los planes de los gobiernos anteriores.
Por otra parte, como pasó con este tipo de políticas del gobierno Duque, en general el diagnóstico que ofrece el borrador no aporta evidencia local, a pesar de que en Colombia y, en concreto, en el sector público, ya se han desplegado soluciones automatizadas e incluso ha habido fracasos documentados. Una propuesta de mejora al documento es que esta política incluya una evaluación de impacto de lo que se ha hecho hasta la fecha, que recoja experiencias de los actores interesados locales para establecer lecciones y riesgos, y que, en consecuencia, incluya un plan para abordarlos.
El documento tiene un análisis de riesgos de la IA, habla de al menos tres aspectos a reforzar en el país: (i) crear políticas públicas específicas con respecto a los riesgos y efectos no deseados, (ii) otorgar capacidades a la autoridad de protección de datos -y eso que la situación que diagnostica es incluso peor, pues solo menciona a la Superintendencia de Industria y Comercio sin indicar que las facultades sancionatorias de la Procuraduría General de la Nación aún no están estrenadas- y (iii) actualizar y reforzar las normas de privacidad y protección de datos.
En ese marco, resulta sorprendente que una de las pocas acciones concretas propuesta por el Conpes de IA sea evaluar el uso de una IA predictiva con la población carcelaria, una población particularmente vulnerable. En el Conpes se propone “realizar una evaluación sobre la pertinencia del uso de una solución basada en IA para implementar sistemas de vigilancia y monitoreo en tiempo real en centros penitenciarios con el fin de detectar comportamientos sospechosos o inusuales y mejorando la seguridad”.
Esta debería ser una línea roja. Este tipo de solución se basa en el uso de datos biométricos e identificación en tiempo real. Desde 2021, la ONU advirtió un impacto dañino de esta tecnología para los derechos humanos y pidió a los gobiernos una moratoria en estas implementaciones hasta no tener más información y mecanismos de control. Adoptando esa posición, algunas ciudades de Estados Unidos prohibieron la biometría, sobre todo en vigilancia estatal. Mientras tanto, en Europa, Algorithm Watch reporta ciudades donde sistemas similares se suspenden anticipando la entrada en vigencia de la regulación europea sobre IA, que podría clasificar estos sistemas como de alto riesgo. Estas consideraciones serán presentadas por Karisma y Temblores al DNP.
Para cerrar, propongo dos acciones concretas: (i) en línea con la propuesta de A2K Latam buscar garantizar que los análisis computacionales puedan hacerse por los y las investigadoras del país, garantizar el derecho a la investigación con técnicas IA y (ii) pensar creativamente en cómo hacer más ejecutiva la mesa de IA o en crear una alta consejería que coordine las iniciativas que surjan y articule las iniciativas gubernamentales de IA. Como mínimo este Conpes debe dialogar con la Estrategia Nacional Digital y la Hoja de Ruta de MinCiencias, además de la Infraestructura de Datos del país y las múltiples iniciativas legislativas.
