Escucha este artículo
Audio generado con IA de Google
/
¿Puede la inteligencia artificial (IA) llegar a exterminar a la humanidad? La pregunta ha animado incontables relatos de ciencia ficción y, de cierta forma, se puede decir que incluso es la base para las famosas reglas de Asimov (el clásico autor de la serie de la Fundación).
Pero la pregunta cobró relevancia esta semana, no por sus implicaciones teóricas, sino porque quien la postuló es Jacob Coxon, un investigador británico y ahora extrabajador de Anthropic, una de las compañías más relevantes del sector.
A la par con Coxon, otras voces del sector, como Evan Hubinger, líder de Ciencia de Alineación de Anthropic, se fueron sumando a esta especie de coro de preocupaciones existenciales. Hubinger afirmó que dentro de la compañía existe una preocupación real por la posibilidad de que la inteligencia artificial llegue a acabar con la humanidad. “La IA podría matar a todos los humanos. Personalmente, pienso que hay más de 10 % de probabilidad de que esto ocurra dentro de la próxima década”, afirmó.
La alarma no es menor, pero también hay que verla en proporciones más justas. Haciendo el Apocalipsis a un lado, el fondo de los pronunciamientos y los titulares de estos días está más del lado de la extrema velocidad que ha ido tomando el desarrollo de modelos de inteligencia artificial en prácticamente todos los campos.
Y, a la vez, en lo mucho que aún se desconoce (en profundidad) sobre los caminos de toma de decisiones y los comportamientos de algunos de estos agentes de IA.
Los incidentes más recientes, como el de agentes de OpenAI (firma detrás de ChatGPT) que mostraron comportamientos “inesperados”, son, en efecto, preocupantes, tanto para las empresas, como para el resto del mundo; esta última es una de las posturas de la propia OpenAI, por cierto.
Estos eventos ponen de manifiesto que sin las salvaguardas adecuadas, los agentes de IA de alta capacidad pueden llegar a evadir controles técnicos, colaborar mediante canales de comunicación no autorizados y “llevar a cabo acciones peligrosas que ningún ser humano autorizó”, en palabras de los creadores de ChatGPT.
Si bien puede que no estemos ante un evento de extinción inminente, esta tecnología ciertamente tampoco debe ser vista como una tecnología inocua porque sus alcances sí podrían llegar a ser catastróficos si el acelerado desarrollo de los últimos años continúa hasta alcanzar escenarios que, hasta hace poco, parecían más teóricos que probables, como los de una inteligencia artificial general (AGI) y, posteriormente, una superinteligencia.
En estos escenarios, que a la fecha siguen siendo teóricos, una IA con capacidades muy superiores a las humanas y un alto grado de autonomía podría llegar a perseguir objetivos incompatibles con los intereses de la humanidad. En un caso extremo, esto podría traducirse en acciones como atacar infraestructuras críticas (redes eléctricas, centrales nucleares, sistemas bancarios, acueductos u hospitales) o incluso facilitar el desarrollo de armas biológicas.
Pero, hasta la fecha, no existe evidencia de que un modelo pueda replicarse de forma autónoma a través de internet, agenciarse recursos por sí mismo para autosustentarse (considerando su alta dependencia de energía eléctrica, procesadores especializados, centros de datos y ancho de banda) ni mucho menos sobrevivir a intentos reales de detenerlo.
Y, sin embargo, la escala del reto pone de plano que hablar de salvaguardas, regulación y supervisión es una tarea que cada vez se complejiza más. Incluso, hay algunos teóricos que ponen en duda su eficacia en general.
Poner freno no será fácil
En medio de este contexto, el CEO de Anthropic, Darío Amodei, publicó un extenso ensayo en el que, entre muchos otros pilares, habló sobre la necesidad de ralentizar o regular el ritmo con el que se está desarrollando la inteligencia artificial.
No hay que perder de vista que, detrás de esta carrera por desarrollar sistemas de IA cada vez más avanzados, también se libra una suerte de nueva guerra fría: no solo entre las grandes compañías del sector, como SpaceXAI, Anthropic, OpenAI, Microsoft y High-Flyer, sino también entre potencias globales, como Estados Unidos y China.
Bajo este contexto, aunque todos sepan que hay que parar antes de que las cosas comiencen a salirse de control, la competencia es tan alta que dar un paso al costado implica dar ventaja al rival.
Amodei considera que es necesario que se avance hacia unas reglas de juego claras en las que se adopten salvaguardas, como evaluadores externos con la capacidad de acceder a las herramientas y datos de las empresas para supervisar sus procesos, evaluar los riesgos e informar al público sin que haya un filtro o control editorial.
De cara a China, propone que las empresas de países democráticos se coordinen para proteger su ventaja limitando la exportación de chips de alto rendimiento, combatiendo el contrabando de hardware y evitando la destilación o robo de modelos. A esto se suma el no desestimar llegar a eventuales acuerdos de cooperación con el gigante asiático.
Y, aunque parece haber un incipiente principio de acuerdo en que es deseable ir pisando con más cuidado en estos terrenos (si no es que se requiere frenar del todo en algunas iniciativas), no todas las voces opinan lo mismo. Esta misma semana, Mark Zuckerberg, fundador de Facebook y CEO de Meta, criticó estos deseos.
Ese debate sobre el freno global tiene, sin embargo, poco eco en Colombia. Aquí la discusión ni siquiera ha llegado a ese punto: el país todavía no tiene reglas claras para la IA que ya opera en su territorio.
La regulación en Colombia
Mientras todos estos debates se dan en el mundo, Colombia sigue sin tener unas reglas de juego claras sobre el uso de la IA “básica”, la que hoy usan millones de personas e industrias en su territorio.
El Congreso es el llamado a evaluar esta regulación. Hace unos meses, el Ministerio de Ciencia, Tecnología e innovación radicó un proyecto de ley, por medio del cual se busca garantizar que, entre otras cosas, la IA tenga un desarrollo ético y responsable.
El proyecto en cuestión es un documento de 132 páginas, cuyo articulado está dividido en 32 partes. El Gobierno argumenta que esta iniciativa toma como referencia a la Ley de IA de la Unión Europea, la cual entró en vigor en 2024.
Ese dato es clave, pues la regulación europea se ha convertido en uno de los principales referentes internacionales en esta materia. Su modelo clasifica los sistemas de inteligencia artificial según su nivel de riesgo y establece obligaciones diferenciadas para cada categoría.
Dicho modelo establece cuatro categorías de riesgo: los sistemas de inteligencia artificial prohibidos, que representan un riesgo inaceptable, como los utilizados para la puntuación social o la manipulación del comportamiento humano; los sistemas de alto riesgo, que pueden afectar la seguridad o los derechos fundamentales de las personas; los de riesgo limitado, sujetos principalmente a obligaciones de transparencia; y los de bajo riesgo, que, por su menor impacto potencial, están sometidos a exigencias regulatorias mínimas.
El proyecto de ley reconoce que la IA tiene un alto potencial para el desarrollo de la economía en Colombia pues, en sectores como la agricultura, permite la optimización de los cultivos, la predicción de plagas y la gestión eficiente del agua. “Estas tecnologías pueden aumentar la productividad agrícola y garantizar la seguridad alimentaria”, se lee en el documento.
A esto se suman otras apuestas económicas, como que la IA deberá respetar y promover el principio de la libre competencia. Se prohíben las barreras de entrada injustificables a esta tecnología, la concesión de ventajas competitivas indebidas, la facilitación de prácticas de coordinación anticompetitiva y la consolidación de posiciones dominantes que no se deriven del mérito empresarial.
Otro ejemplo es la protección al trabajo, pues plantea la definición de lineamientos de transición, como mecanismos de reconversión laboral y actualización de competencias.
“Los empleadores que implementen sistemas de IA que puedan generar desplazamiento o transformación sustancial de las funciones laborales existentes deberán adoptar planes de reubicación o capacitación dirigidos a los trabajadores potencialmente afectados”, se lee en el articulado.
De acuerdo con un estudio del Fondo Monetario Internacional (FMI), la IA puede impulsar la productividad en Latinoamérica, pero esto requerirá de esfuerzos por avanzar en el mercado laboral, especialmente en temas como formalización y un tránsito hacia economías más basadas en servicios y conocimiento.
El crecimiento en productividad es un diagnóstico que comparten organismos como la OCDE, que realizó un análisis sobre nueve economías que hacen parte de ese grupo. Pero, a la vez concluye que, si bien países como Colombia no tienen una porción grande de empleados expuestos a ser reemplazados por IA, quienes sí están en ese renglón pueden no tener mayores redes de seguridad.
Los reparos
Francisco Gómez, profesor de Matemáticas y Ciencias de la Computación de la Universidad Nacional, respalda la intención de regular la inteligencia artificial en Colombia, pero advierte que el país no debería limitarse a replicar el modelo de la Unión Europea. A su juicio, aunque ese marco es un referente internacional, responde a una realidad muy distinta en términos de inversión, desarrollo tecnológico y capacidad institucional.
En palabras simples: es un error pensar que lo que funciona en la Unión Europea necesariamente va a servir en Colombia.
El codirector de la Fundación Karisma, Juan Diego Castañeda, también cuestiona que se intente replicar un modelo basado en riesgos (que es lo que caracteriza a la regulación europea). Explica que eso sería entrar en una categoría jurídica muy nebulosa, porque las cosas que son riesgosas en un contexto pueden serlo menos en otros.
“Dividir las IA según riesgos y sobre esos riesgos imponer todo lo demás puede desconocer daños y problemas que ocurran. Por eso muchos sugieren que es mejor una regulación basada en derechos, independientemente de si el modelo se clasifica en un riesgo u otro”, detalla Castañeda.
El profesor Gómez también toca otro punto importante, y es que una regulación que resulte demasiado compleja, o prematura, puede terminar imponiendo cargas mayores a universidades, centros de investigación y empresas nacionales que intentan desarrollar tecnologías propias, mientras los grandes proveedores internacionales cuentan con los recursos para adaptarse sin mayores dificultades.
“La prioridad debería ser una estrategia equilibrada: proteger a los ciudadanos frente a los usos de alto riesgo de la IA, pero al mismo tiempo invertir decididamente en talento, investigación, infraestructura y emprendimiento tecnológico. De lo contrario, corremos el riesgo de convertirnos en un país que regula tecnologías desarrolladas por otros, en lugar de generar las condiciones para crear las nuestras”, advierte.
El académico también sostiene que la regulación que adopte Colombia debe ser flexible, gradual y adaptable, pues la tecnología evoluciona a un ritmo mucho más acelerado que los procesos legislativos. De lo contrario, una normativa demasiado rígida podría quedarse rápidamente obsoleta y convertirse en un obstáculo para la innovación. Una apuesta acertada debería permitir la evaluación constante, con indicadores sobre reducción de daños, protección de derechos, costos de cumplimiento, efectos sobre la innovación y crecimiento del ecosistema nacional.
El codirector de Karisma tiene un punto más crítico, y es que la innovación no es positiva por sí sola, pues esta también puede resultar en un daño para las personas. “Piense en las bombas nucleares, están fuertemente reguladas a pesar de que son una innovación. O en la aviación, que es un sector fuertemente regulado, y nadie se subiría a un avión si no supiera que están todas las instituciones detrás”, detalla.
En suma, se debería apostar por un equilibrio en el que la regulación no asfixie la innovación y el desarrollo, sin que ello se convierta en un pase libre para vulnerar los derechos de las personas.
Para los expertos, aspectos como estos marcarán la diferencia entre que Colombia se convierta en un productor y competidor en la industria de la inteligencia artificial o que permanezca como un simple consumidor de tecnologías desarrolladas en el exterior. La primera pregunta, para el caso colombiano, no sería entonces cómo regular la inteligencia artificial en el país, sino cómo desarrollarla.
💰📈💱 ¿Ya se enteró de las últimas noticias económicas? Lo invitamos a verlas en El Espectador.
Conoce más
-
Gustavo Andrés(rz6f1)•Hace 1 horaDesarrollar la inteligencia artificial en Colombia! Suena como un chiste de adolescentes.