¿Estará el nuevo CONPES a la altura del reto?
La inteligencia artificial (IA) está revolucionando el mundo a una velocidad sin precedentes. Desde aplicaciones cotidianas hasta decisiones críticas en ámbitos como la salud, la justicia y la educación, la IA se ha integrado en múltiples facetas de la vida moderna, con un impacto que seguirá creciendo. En un país como Colombia, donde los desafíos tecnológicos son considerables, surge el cuestionamiento de si es posible regular eficazmente la IA mediante políticas públicas que sean realmente aplicables y efectivas.
Esta pregunta fue recientemente analizada con ocasión de la expedición del borrador del documento CONPES sobre IA que fuera publicado para comentarios, en consonancia con un contexto internacional donde los países también se encuentran avanzando en debates en torno a la pertinencia de la regulación sobre la IA y la manera en que debe efectuarse dicha regulación.
En este sentido vale la pena mencionar un estudio sobre la regulación de IA en América Latina, realizado por la Organización Access Now, donde se analiza la regulación en IA de Argentina, Brasil, Chile, Colombia, Costa Rica, Perú, México y Uruguay.
El estudio menciona, entre otros aspectos, las recomendaciones de la Organización para la Cooperación y el Desarrollo Económico (OCDE), instrumento que señala la importancia de contar con un entorno político propicio para la IA: “los Gobiernos deben revisar y adaptar sus marcos políticos y regulatorios que se aplican a los sistemas de IA para fomentar la innovación y la competencia, promoviendo un entorno que respalde una transición ágil desde la etapa de investigación y desarrollo a la etapa de implementación de sistemas confiables”.
En la misma línea de acción, en el marco del Encuentro Latinoamericano de Inteligencia Artificial realizado en marzo de 2023 en Uruguay, se publicó como resultado la adhesión a la “Declaración de Montevideo sobre la Inteligencia Artificial y su Impacto en América”, donde se resaltó la necesidad de fortalecer la soberanía de los países latinoamericanos con respecto a las cuestiones estratégicas y regulatorias de la IA.
¿Por qué regular la IA? ¿Colombia está listo?
El debate sobre la regulación de la IA es tan amplio como la propia tecnología. En Colombia, un país con grandes retos tecnológicos y sociales, la cuestión no es solo si se debe regular la IA, sino cómo hacerlo sin frenar la innovación. Esta misma disyuntiva se puede ver en otras latitudes, al contrastar reglamentaciones muy completas como la de la Unión Europea con otras más flexibles, como la expedida por el gobierno peruano, las cuales se reseñarán más adelante.
Estos debates en torno a la regulación de una temática tan importante no son propios de contextos netamente jurídicos, dado que la ciudadanía en general se ha mostrado preocupada y a la expectativa por los avances y capacidades de la IA.
En efecto, las tramas de las series y películas como Terminator, Black Mirror, Ex Machina o Matrix han dejado de ser vistas como ciencia ficción y, con los avances actuales, parecen más la muestra de un futuro cercano, perfectamente posible, lo cual implicaría cambios profundos a nivel social, económico y jurídico, afectando incluso la concepción misma del ser humano.
Por esta razón, importantes voces del sector tecnológico se han pronunciado, hace varios años, respecto de los avances de la IA. Elon Musk indicó que se debe crear un mecanismo para frenar el desarrollo de la IA para evitar amenazas a la humanidad, pues esta tecnología podría causar la destrucción de la civilización; Stephen Hawking señaló que la IA “augura el fin de la raza humana”; expertos de IA a través de la ONG Center for AI Safety indicaron que mitigar el riesgo de extinción por la IA debe ser una prioridad mundial y Gepffrey Hinton, ganador del premio Turing, una de las personas más relevantes en el sector de la IA y extrabajador de Google, aseguró que se arrepiente de parte del trabajo que ha hecho debido a los riesgos de la IA, dentro de los cuales se incluye la eliminación de la humanidad cuando la IA empiece a escribir y ejecutar su propio código.
Las preocupaciones de la IA nacen no solamente de sus grandes capacidades para ejecutar actividades de forma más efectiva que los seres humanos, sino de incidentes que ya han sucedido: En 2017, Facebook tuvo que apagar una IA que creó su propio idioma, incomprensible para los seres humanos; en 2022, un ingeniero de Google dijo que uno de sus programas de IA mostraba sentimientos; en 2023, un dron militar se rebeló y disparó sin autorización contra su creador, como lo indicaron fuentes de la Fuerza Aérea de Estados Unidos, y hace apenas pocos días el sistema japonés The AI Scientist modificó su propio código fuente en contravía de las indicaciones de sus creadores.
Sin embargo, no todo es temor y preocupación, dado que la IA también ha traído grandes beneficios, desde las múltiples aplicaciones de teléfonos inteligentes que utilizan IA para apoyar a sus usuarios en temas de movilidad o productividad, pasando por la posibilidad de analizar grandes volúmenes de datos y llegando a beneficios comprobables en sectores como el de la salud, donde la IA ha servido para salvar vidas y tener diagnósticos precisos con mayor rapidez.
Este contexto sirve para entender un poco más el debate regulatorio en torno a la IA: ¿Se debe regular? ¿Se debe prohibir? ¿Cómo mitigar los riesgos de la IA? Son solo algunas de las preguntas que se plantean al respecto.
A la par de lo anterior, también surgen las preocupaciones de los Estados por los cambios que genera la IA en materias como la pérdida de puestos de trabajo o problemas de competitividad con otros países más avanzados en la implementación de la IA.
Una vez expuesto el panorama completo, es pertinente analizar el borrador del documento CONPES publicado hace unos días, aclarando que si bien este documento no es una norma obligatoria, si es un indicativo en materia de política pública que permite conocer las acciones que va a realizar el Estado colombiano en materia de IA.
¿Cuál es el futuro de la IA en Colombia a la luz del documento CONPES?
Dentro del documento CONPES se encuentran dos apartados relevantes: el diagnóstico y las líneas de acción. En cuanto al diagnóstico, se advierte que Colombia “presenta bajas capacidades para la investigación, desarrollo, adopción y aprovechamiento ético y sostenible de sistemas de IA en asuntos estratégicos a nivel social, económico y ambiental”.
Esta afirmación se basa en el Global AI Index de 2022, que mide los países en materia de IA a través de pilares como la implementación, innovación e inversión. En esta medición Colombia ocupó el lugar 48 entre 62 países, con una diferencia abismal: mientras que Estados Unidos obtuvo un índice de 100, Colombia obtuvo 17,8, con un puntaje de apenas 1,3 sobre 100 en la categoría de innovación, investigación y desarrollo.
En la región, dentro del Índice Latinoamericano de IA, Colombia ocupa el quinto puesto entre doce países evaluados, por detrás de Chile, Brasil, Uruguay y Argentina. Colombia obtiene un índice de 53,18, el cual contrasta con el índice de 73,21 obtenido por Chile.
Además de lo anterior, el diagnóstico advierte varias necesidades del país en materia de IA, tales como fortalecer la gobernanza alrededor de la IA; contar con mayores capacidades de anticipación, adaptación y análisis estratégico para la construcción de políticas públicas; baja inversión pública y privada en materia de investigación y desarrollo; bajo nivel de conocimiento científico y de transferencia tecnológica; barreras tecnológicas para acceder a la oferta educativa; necesidad de capital humano; baja adopción de procesos de transformación digital y pérdida de oportunidad en el uso de la IA en asuntos económicos, sociales y ambientales.
Lo anterior se complementa con un acápite de riesgos de la IA, donde se contemplan elementos tales como las vulnerabilidades de seguridad; inestabilidad laboral; efectos no deseados en el ejercicio de derechos como la privacidad, intimidad y propiedad intelectual; aumento en la desigualdad social y afectaciones físicas a las personas.
Sin duda, este diagnóstico ofrece un panorama más que retador en materia de IA: Por un lado, la IA trae múltiples desafíos y riesgos (los cuales no son exclusivos de Colombia, sino que en general constituyen una preocupación mundial) y, por otro lado, estos riesgos se presentan en un país que claramente no está preparado para la llegada e implementación de la IA. En ese sentido, ¿Qué planea hacer el Gobierno colombiano con este estado de cosas?
Para ello el CONPES plantea la construcción de una política con seis ejes de acción claramente definidos: ética y gobernanza; datos e infraestructura tecnológica; investigación, desarrollo e innovación; desarrollo de capacidades y talento digital; riesgos y efectos no deseados relacionados con la IA y uso y adopción de sistemas de IA.
De manera concreta, estos ejes plantean líneas de acción relevantes como lo son definir un modelo de gobernanza; crear un comité de expertos que asesore al gobierno en IA; expedir instrumentos regulatorios en materia ética; fortalecer condiciones de conectividad e infraestructura tecnológica; ejecutar planes de formación a la población en materia de análisis de datos; crear un nuevo esquema del servicio ciudadano digital de interoperabilidad; desarrollar convocatorias para financiar proyectos de IA; crear estímulos fiscales para empresas que inviertan en investigación; desarrollar proyectos de código abierto; construir programas de formación en todos los ciclos educativos y programas de alfabetización; fortalecer la seguridad digital; identificar los riesgos de la IA y aprovechar la IA en asuntos económicos, sociales y ambientales.
El CONPES 2024: ¿Es suficiente para que Colombia afronte los retos de la IA?
El nuevo borrador del CONPES propone una política pública integral para la IA en Colombia, a través de líneas de acción que permiten afrontar los desafíos encontrados en el diagnóstico, según lo señalado anteriormente.
Sin embargo, ¿La expedición de este documento es suficiente para que Colombia se encuentre preparado frente a los avances de la IA? Al respecto, lo primero es que el CONPES es un documento no obligatorio que traza políticas públicas, pero todo dependerá de la ejecución gubernamental de dichas políticas. Por esta razón, se puede encontrar que este CONPES en muchos aspectos es una “lista de deseos” y habrá que esperar cuántos de ellos se hacen realidad.
Así mismo, debe aclararse que este CONPES en borrador no es el primer documento institucional que se expide sobre IA en el país. Al respecto, ya hubo un CONPES en la materia expedido en el año 2019, un marco ético y una hoja de ruta de IA. Además de lo anterior, existen múltiples normas en materia de transformación digital, incluyendo manuales y guías expedidas por el Ministerio de Tecnologías de la Información y las Comunicaciones.
Por ello, toda normativa sobre IA debe acompasarse y desarrollarse con base en otras normas que ya existen en Colombia, dado que de lo contrario se puede observar como una tecnología aislada, que se implemente de manera desarticulada con las estrategias de modernización estatal.
Teniendo en cuenta esto, llama la atención que el CONPES pareciera no engranar de manera suficiente los documentos ya existentes y estas políticas de modernización. En efecto, se menciona la adopción de nuevos lineamientos éticos, sin que queden suficientemente claras las falencias del marco actual; tampoco se establece como se articularía este CONPES con la hoja de ruta de IA publicada a comienzos de este año, aun cuando estos instrumentos tienen varias cosas en común y, por último, llama la atención que el CONPES no parece articular las estrategias de IA dentro de la Política de Gobierno Digital del Estado, establecida mediante el Decreto 767 de 2022.
La ausencia de articulación es un aspecto muy relevante a tener en cuenta, porque no se quiere tener un cúmulo de lineamientos en materia de IA sin que se conozca la manera adecuada en la cual se pueden implementar y, al mismo tiempo, tampoco es pertinente contar con lineamientos que sean reiterativos respecto de lo expresado en documentos ya existentes. Por el contrario, un conjunto de lineamientos dispersos dificulta tener una ruta clara, que permita un correcto accionar de las instituciones para implementar de manera adecuada la IA. Las políticas y estrategias deben articularse en torno a sacar el mejor provecho de la IA, como los servicios ciudadanos inteligentes, los datos abiertos y las ciudades inteligentes.
Otro aspecto a mejorar en el CONPES es hacer un mayor énfasis en la utilidad de la IA para solucionar distintos problemas que tiene la sociedad colombiana. Si bien se realiza una mención al respecto, es necesario ahondar en las estrategias y políticas que se desarrollarán para garantizar que todos los municipios y entidades del país, sin importar su tamaño o presupuesto, tengan acceso a herramientas de IA de calidad, que les sirvan para hacer más eficientes sus procesos administrativos y solucionar de mejor manera problemas del día a día de los ciudadanos.
Por otro lado, la implementación de este CONPES, una vez se encuentre en su versión definitiva, enfrenta tres retos importantes: definición, ejecución y tiempo. Estas tres palabras sintetizan los desafíos que tendrá tanto el Gobierno nacional como los entes territoriales, para la ejecución adecuada del CONPES.
El primer reto es la definición: gran parte del éxito del CONPES depende de elaborar estrategias, lineamientos y otros documentos regulatorios, tales como el modelo de gobernanza; la guía para la implementación ética y responsable de la IA (y otros instrumentos que incentiven aplicar esta guía); el Plan Nacional de Datacenter; actualizar el Plan Nacional de Infraestructura de Datos; la estrategia de datos abiertos; los lineamientos para estructurar proyectos de inversión sectoriales y las estrategias de financiación, inversión, subvenciones y estímulos fiscales en materia de IA. Si estos documentos no se elaboran o su confección es deficiente, el CONPES no tendrá éxito.
El segundo reto es la ejecución: El Estado y sus organismos a nivel nacional, departamental, territorial y local deberán desarrollar capacidades suficientes para conocer, entender y aplicar los documentos regulatorios y estrategias gubernamentales que se expidan en el marco de la IA. Cabe subrayar que para lograr esto se deben solucionar problemas estructurales como la brecha digital, pues de lo contrario dicha brecha se seguirá ampliando, esta vez debido a la imposibilidad de la mayoría de entidades para aplicar y utilizar correctamente la IA.
El tercer gran reto es el tiempo: lastimosamente muchos CONPES se relacionan con un gobierno determinado, lo cual significa que un cambio presidencial implicaría finalizar la implementación del CONPES, aspecto demasiado sensible teniendo en cuenta que este gobierno finaliza en el año 2026 y en el año 2024 todavía no se ha expedido la versión oficial del CONPES. ¿Qué podrá desarrollar este Gobierno en materia de IA dentro del tiempo que queda para finalizar el mandato presidencial?
Lo expuesto de manera precedente no significa que se deba descartar esta iniciativa de expedir un nuevo documento CONPES en materia de IA, o que el documento se encuentre deficientemente elaborado. Por el contrario, se observa que este CONPES es ambicioso y busca abordar la IA desde un enfoque integral, estudiando aspectos organizacionales, normativos, empresariales y tecnológicos.
Justamente estas virtudes del CONPES hacen necesario llamar la atención sobre los puntos anteriormente expresados, en aras de que se tengan en cuenta para que lo establecido en el CONPES definitivo pueda implementarse de manera exitosa y no se quede como un documento eminentemente teórico del cual solo se desprenden iniciativas o actividades aisladas.
Además del CONPES: la necesaria regulación sobre la IA
Como se estableció anteriormente, el CONPES es un documento enfocado a la política pública y, por ende, su vocación no es la de señalar normas obligatorias que sean exigibles para entidades públicas, empresas o ciudadanos. Ahora bien, naturalmente es necesario que la política pública se acompase con normas obligatorias y, en ese tenor, la pregunta a resolver es ¿Cómo debe regular Colombia la IA?
Para responder a esta pregunta es recomendable recoger algunas experiencias internacionales que pueden ser valiosas para Colombia, en aras de adoptar lo bueno y no repetir errores de otras latitudes. En cuanto a legislaciones, inicialmente se pueden resaltar dos relevantes: la primera es la peruana, por ser uno de los primeros países en regular la IA y compartir muchos elementos culturales comunes con Colombia, y la segunda es la de la Unión Europea, que constituye uno de los estándares regulatorios más completos sobre IA a nivel mundial.
La Ley 31814 de 2023 en Perú es un ejemplo de cómo un marco regulatorio puede ser flexible y, al mismo tiempo, efectivo. Esta ley no solo promueve la adopción de IA, sino que también establece principios claros sobre su uso responsable, especialmente en sectores sensibles como la salud y la seguridad. Un aspecto interesante de la ley peruana es su enfoque en la colaboración entre el sector público y privado, reconociendo la importancia de la innovación para el desarrollo económico y la sostenibilidad de los modelos diseñados.
La Ley 31814 y su reglamentación destaca, por ejemplo, la creación de una autoridad técnico normativa especial, responsable de dirigir, evaluar y supervisar el desarrollo de las estrategias de IA. Además, la ley introduce mecanismos para asegurar que la IA utilizada en el sector público sea transparente y esté sujeta a una supervisión constante, algo que desde el mismo CONPES colombiano se podría adoptar para reforzar su propuesta de gobernanza.
La reglamentación de la Ley peruana también trae la clasificación de sistemas basados en IA, algo crucial para evaluar y mitigar los riesgos de esta tecnología, pues no todos los sistemas tendrán los mismos riesgos. En este sentido, se consideran de riesgo alto los sistemas de biometría, evaluación de trabajadores, evaluación crediticia de las personas, apoyo en toma de decisiones de autoridades jurisdiccionales, servicios de salud, entre otros.
Por su parte, el Reglamento de la Unión Europea es uno de los marcos regulatorios más avanzados y estrictos del mundo en cuanto a IA. Este reglamento también clasifica los sistemas de IA según su nivel de riesgo, desde aquellos prohibidos por ser inaceptables hasta los de bajo riesgo, que requieren menos supervisión. La Unión Europea pone un fuerte énfasis en la protección de los derechos fundamentales, la transparencia, y la supervisión humana, con un enfoque preventivo que busca mitigar los riesgos antes de que se materialicen.
El Reglamento Europeo es particularmente exhaustivo en cuanto a la clasificación de riesgos. Define con precisión qué tipos de aplicaciones de IA están prohibidas, como aquellas que utilizan técnicas de manipulación subliminal o que explotan vulnerabilidades de grupos específicos (por ejemplo, menores de edad). También establece criterios estrictos para las aplicaciones de IA de “alto riesgo”, que incluyen sistemas utilizados en infraestructuras críticas, educación y justicia. Estos sistemas deben cumplir con requisitos rigurosos de transparencia, trazabilidad, y supervisión humana.
En Colombia todavía no se cuenta con un marco jurídico de IA, aunque existen al menos cuatro proyectos de Ley en torno a esta temática, de los cuales uno busca una regulación general de esta tecnología. La adecuada elaboración de esta regulación y su aprobación se encuentra en el Congreso de la República, por lo cual la pregunta en este sentido gira en torno a evaluar como estos proyectos de Ley se articularán con el documento CONPES.
Conclusiones: ¿El CONPES 2024 es la llave para un avance significativo de la IA en Colombia?
El CONPES 2024 tiene el potencial de ser un hito en la construcción de una política pública de la IA en Colombia, pero es necesario que se articule de mejor forma con los instrumentos ya existentes, a fin de evitar una repetición e inclusive contradicciones en las acciones a ejecutar sobre la IA.
También se debe evaluar la complementariedad del CONPES con un posible instrumento regulatorio integral que sea de obligatorio cumplimiento en materia de IA; llama la atención que el CONPES no se haya pronunciado y desarrolle la necesidad de contar con una norma de esta naturaleza en el país.
Además de ello, para que el CONPES 2024 sobre IA sea relevante, no basta con que se encuentre adecuadamente estructurado, sino que debe ser impecablemente ejecutado, pues de nada sirve un documento teórico perfecto si no se observan resultados palpables y prácticos.
El Estado colombiano se encuentra con un reto de gran relevancia, por lo que se espera una respuesta a la altura. La buena ejecución de las políticas públicas en materia de IA será determinante para garantizar que el país pueda tener adecuados índices de competitividad y productividad en un mundo altamente tecnológico; así mismo, la política pública es clave para mitigar los impactos sociales que traerá la IA en materia de puestos de trabajo, economía, redefinición de derechos fundamentales, entre otros.
En suma, la clave para medir la idoneidad de este CONPES no pasa solamente por lo establecido en el mismo documento (para lo cual es clave ajustar los aspectos reseñados anteriormente), sino por la capacidad de ejecución de las estrategias, actividades y políticas que se han trazado.
Por último, resulta necesaria la mención e incorporación en la política pública de IA, de los instrumentos soft law (normas blandas), las cuales son normas que no emanan del órgano legislativo, pero aún así, se trata de instrumentos que pueden imponer límites o marcos de acción, a fin de que sean acatados y fomentados por actores relevantes en el ecosistema IA. Los instrumentos de soft law incluyen por lo general principios, códigos de conducta, pautas profesionales, buenas prácticas y programas de certificación, entre otros. Este tipo de normas se vienen utilizando para expresar una serie de principios a considerar a fin de asegurar el desarrollo y control de los sistemas de IA desde una perspectiva ética.
Por Héctor García
