Ya hay un Conpes para la IA, ahora queda lo más difícil: regularla

Este lunes 17 de febrero, el Gobierno Nacional lanzó oficialmente la política nacional de Inteligencia Artificial, que define las acciones que realizará el Estado para regular y potenciar estas tecnologías.

Este lanzamiento de la apuesta nacional en IA ocurre en medio de un boom de la regulación de esta tecnología en el país, que es el cuarto con más regulaciones o intentos de hacerlo en el continente. Como puede ver en el gráfico que acompaña esta nota, hay 36 iniciativas, entre proyectos de ley que están tramitándose en el Congreso y normas emitidas por diferentes ministerios.

Lo cierto es que la regulación de la IA no siempre ha tenido este tipo de atención. Eso lo sabe el senador Juan Diego Echavarría (Liberal), quien junto a su equipo ha presentado cuatro veces un proyecto desde hace años para abordar esta tecnología. Pero no ha tenido éxito al no poder lograr un consenso con sus colegas.

Actualmente, tiene un proyecto de su autoría, en el segundo debate en el Senado, que es uno de los siete que han sido radicados en esta legislatura. Sin embargo, recibió un concepto negativo por parte del Ministerio de las TIC

“Este proyecto de ley lo hemos presentado varias veces, pero realmente no se ha aprobado por el Gobierno se ha opuesto, pues siempre ha tenido la intención de presentar su propio proyecto, pero nunca lo han hecho”, cuenta Echavarría.

De esta poca atención que ha tenido esta regulación, el país ha pasado a una auténtica explosión de proyectos que intentan regular estos temas. Si bien esto coincide con el desarrollo a gran velocidad de esta tecnología, también viene con una dificultad al momento de abordar este tema: es difícil definir la IA. Como lo ha indicado en su libro Inteligencia artificial, lo que todo el mundo debe saber, el experto en informática y futurólogo Jerry Kaplan, la pregunta “¿qué es la Inteligencia Artificial es una duda fácil de plantear, pero difícil de responder, pues hay poco acuerdo sobre lo que es la inteligencia”.

Actualmente, en el Congreso hay en trámite al menos siete proyectos de ley que mencionan la palabra “inteligencia artificial”, así cómo tres comisiones accidentales en Cámara, Senado y de manera bicameral.

Uno de los investigadores que le está siguiendo la pista a estos grupos de legislación y normativas es Juan David Gutiérrez, investigador de la Escuela de Gobierno de la Universidad de Los Andes y de la Unesco, que viene trabajando con colegas para construir una base de datos de la regulación de IA en Latinoamérica que se lanzará en los próximos días.

“Lo que se ve en los proyectos es que hay una gran variedad definiciones, y de enfoques, copiando por ejemplo la propuesta de la Unión Europea, que impide medidas para proteger a los usuarios. Otros proponen una serie de principios para el desarrollo de la tecnología, mientras que otra parte sugiere la creación de una instancia especial para regular esta tecnología”, explica Gutiérrez, de la U. de Los Andes.

De acuerdo con Gutiérrez, es poco probable que se cree una nueva instancia, por el costo fiscal. La otra opción es delegar esta misión a entidades ya existentes. “En particular hay un interés en darle estas facultades a la Superintendencia de Industria y Comercio”.

La regulación por fuera del Congreso

“Otro de los de los elementos que más llama la atención de lo que hemos descubierto es que, por fuera del Congreso, también se está abordando una gran variedad de aspectos que en términos de IA. Hay decretos sobre cómo el Icfes utilizará la IA para vigilar a estudiantes que realicen exámenes desde casa, o su uso para el sistema judicial”, explica Gutiérrez.

Además de esto, la base de datos construida por Gutiérrez y otros colegas, que muestran en qué grado la IA ya está tomando decisiones dentro del Estado. Por ejemplo, durante la alcaldía de Claudia López, se dio vía libre para utilizar la IA para detectar posibles evasores de impuestos en Bogotá, o para utilizarla “gestionar trámites de insolvencia, optimizar tiempos y recursos” durante la crisis económica asociada con la pandemia, durante la presidencia de Iván Duque.

Como contamos en esta nota, el Estado utiliza más de 200 sistemas de IA, con registros oficiales de su utilización en más de 60 entidades públicas. Solo en el caso de Bogotá, El Espectador pudo conocer que el Distrito está invirtiendo en 15 proyectos de datos y IA para automatizar procesos y servicios ciudadanos, optimizar el uso del agua y mejorar la seguridad, entre otras iniciativas.

¿Pánico regulatorio?

Una de las preguntas que vale la pena hacerse en este punto tiene que ver con si realmente es necesario regular, y hasta qué grado, la IA en Colombia. Lo cierto es que, como en gran parte de las tecnologías, su desarrollo viene con el temor de sus implicaciones, y, en este caso, se debe, en parte, a las historias que se han contado en torno a IA, y que literalmente han redirigido al desarrollo de esta tecnología.

Un ejemplo de esto es la empresa Neuralink, del empresario Elon Musk, que en 2017 anunció que había logrado una interfaz que conectaba al cerebro humano con procesadores artificiales. Esta tecnología admitió Musk, se vio influenciada por historias del autor Iain M. Banks.

El problema de esto, aseguran algunos investigadores, es que la IA no siempre es lo que parece. “Estamos viendo que estas tecnologías tienen sesgos tal como sus creadores. Un estudio encontró que un software que estudiaba libertades condicionales a personas en Estados Unidos discriminaba a las personas negras, dándoles una menor oportunidad de obtener este beneficio”, indica Camilo Rocha, decano de la facultad de Ingeniería y Ciencia de la Universidad Javeriana.

A esto se suma la opacidad de estas tecnologías, pues, como describe IBM en uno de sus post, en algunas ocasiones “la inteligencia artificial es como una ‘caja negra’, ya que aún puede ser difícil explicar, gestionar y regular los resultados de la IA debido a la creciente complejidad de la tecnología”.

En esa misma línea, la abogada colombiana Adriana Vergara, experta en regulación de la Inteligencia Artificial (IA), indicaba en otra nota de este diario que uno de los principales retos es “juzgar a las IA que usan algoritmos que nadie entiende del todo”. Estas preocupaciones se vieron reflejadas en un estudio que documentó una serie de casos de sistemas de Inteligencia Artificial se clonaron sin la autorización de los creadores.

“Es necesario regular en materia, pues esta tecnología se está aplicando en Colombia y en el mundo, y es imperativo hacer pronto para proteger a las personas y al entorno, y también creando responsabilidades y límites en el marco laboral”, explica el senador Echavarría (Liberal).

“Uno de los puntos más importantes en la regulación es la transparencia, es que la gente sepa qué parámetros se están utilizando para tomar decisiones en asuntos públicos que los afectan, y en procesos que ya está ocurriendo, en particular en los sectores de Defensa, Ambiente y Justicia”, explica Gutiérrez, de la U. Los Andes.

Por el momento, con el nuevo documento del Gobierno Nacional se dará un paso, en un contexto complejo, para abordar el desafío de regular esta tecnología sobre la que aún no hay consenso en el Congreso.

👩‍🔬📄 ¿Quieres conocer las últimas noticias sobre ciencia? Te invitamos a verlas en El Espectador. 🧪🧬