Inteligencia artificial y deepfakes sexuales de menores: ¿qué tan preparada está Colombia?

Cada vez aparecen más piezas del rompecabezas alrededor de Grok, la inteligencia artificial de xAI, empresa de Elon Musk. En marzo, un grupo de adolescentes demandó a la compañía después de que fotografías suyas no explícitas fueran utilizadas para crear material de explotación sexual infantil con IA. Meses después, una sobreviviente de abuso sexual identificada como Jane Doe alegó que la herramienta había usado material preexistente de la violencia que sufrió para producir nuevos contenidos generados artificialmente. Y, mientras tanto, una investigación de The New York Times encontró que archivos de abuso sexual infantil ya conocidos por las autoridades seguían circulando en X.

La preocupación estalló a finales de 2025, cuando Grok incorporó una herramienta para alterar fotografías de cualquier tipo. Pronto, los usuarios empezaron a utilizarla para generar imágenes sexuales falsas de otras personas sin su consentimiento. Primero le “quitaron” la ropa a celebridades como Taylor Swift y Emma Watson. Después, a personas comunes y corrientes. En menos de dos semanas, Grok había producido millones de contenidos de este tipo, incluidas imágenes de más de 20.000 de menores de edad, según un muestreo realizado por el Centro para la Lucha contra el Odio Digital.

El problema, sin embargo, no nació con la inteligencia artificial ni con Grok. X ya enfrentaba cuestionamientos por la circulación de este tipo de contenidos y, cuando Musk compró la plataforma en 2022, prometió que retirarlo sería su “prioridad número uno”. Aun así, The New York Times encontró este año más de 75 imágenes entre enero y junio, varias de ellas ya identificadas previamente por las autoridades. Casos similares han salpicado a plataformas como Facebook, Instagram, Threads y WhatsApp.

(Le puede interesar: Educación sexual en Colombia: las brechas se profundizan pero los resultados se demuestran)

La mayoría de estos contenidos son deepfakes sexuales. Básicamente, son videos, imágenes o audios manipulados con herramientas tecnológicas para que parezcan auténticos, aunque representen algo que nunca ocurrió. Por eso, organismos internacionales los han reconocido como una forma de violencia sexual digital.

“Es bien importante tomar medidas frente a las publicaciones de los menores, porque ellos no están escogiendo esas imágenes. Con la IA, una fotografía real puede manipularse agregando cuerpos, posiciones y demás contenido sexual. Partiendo, por ejemplo, de una imagen real de un niño que está en un parque, ahí se puede hacer todo esto”, comenta Ángela María Andrade, investigadora sobre violencia digital en Colombia en entrevista con El Espectador.

Explica que no se trata de una forma de abuso nueva, sino de algo que la IA permite producir y difundir con mayor facilidad, incluso dificultando identificar a la persona agresora. Además que, por eso, es importante trabajar en la privacidad y los derechos de los menores, y que la responsabilidad de cuidar no debe quedarse solo en lo offline, sino también en los entornos digitales.

En Estados Unidos, donde salió a la luz el caso de Grok, ya existe una ley federal como la “Take It Down Act”, que sanciona la distribución no consentida de imágenes sexualmente explícitas, reales o generadas con IA, y bajo la cual ya se emitió una primera condena. Pero ¿qué pasa en países como Colombia, donde todavía no existe una regulación específica sobre violencia sexual digital?

En el país todavía hay pocos datos específicos sobre deepfakes sexuales, pero el estudio Dirsupting Harm, publicado este año por UNICEF, ECPAT International e INTERPOL, da algunas pistas. El 21 % de adolescentes colombianos entre 12 y 17 años dijo haber sufrido alguna forma de explotación o abuso sexual facilitados por la tecnología. Dentro de ese grupo, el 2 % señaló que alguien había usado inteligencia artificial para crear imágenes sexuales falsas suyas. Aunque es una proporción menor frente a otras formas de abuso, los organismos advierten que podría hacerse más común a medida que estas herramientas sean más accesibles.

“Desde que haya una posibilidad de identificación de estos menores, aunque sus cuerpos o la acción que estén ejecutando no hayan sido reales, sí hay una afectación real”, dice Andrade.

(Lea aquí: “Sesgar la educación a un solo discurso resulta absolutamente nefasto”: Fidel Ramírez)

Ahora bien, en la literalidad legislativa, los deepfakes sexuales no están incluidos de manera específica. Esto no significa que quien los cree o los haga circular no esté cometiendo un delito. Dependiendo del caso, pueden investigarse a través de figuras penales ya existentes, como abuso sexual o explotación sexual infantil, delitos informáticos o extorsión, por mencionar algunas.

Andrade explica que, aun así, hay zonas grises abiertas a la interpretación. Pone como ejemplo el delito de “pornografía infantil”, cuya redacción habla de representaciones reales de actividades sexuales. Con un deepfake, la escena es montada, aunque la persona representada sí exista. Ahí aparece la discusión sobre cómo aplicar la norma.

Por su parte, Ángela Anzola de Toro, presidenta ejecutiva de Fundación PLAN, destaca avances como la Ley 2489 de 2025 y su Decreto 769 de 2026, que, según explica, buscan hacer más seguros los entornos digitales para niños, niñas y adolescentes. La norma pone el foco en la prevención de riesgos y en hábitos más saludables en internet, mientras el decreto aterriza esas medidas en temas como alfabetización digital, privacidad, mejores canales de reporte y mayor articulación entre las entidades responsables de su protección.

Pese a ello, las expertas coinciden en que faltan rutas de denuncia más claras, lo que también dificulta dimensionar el problema. UNICEF menciona que, frente a distintas formas de abuso sexual facilitado por herramientas tecnológicas, muchos menores en el país no denuncian por vergüenza, miedo, desconocimiento o porque creen que nadie les va a creer. A nivel mundial, menos del 1 % de estos casos llega a conocimiento de las autoridades.

Hay, además, una dimensión de género difícil de ignorar. Anzola de Toro advierte en conversación con este diario que “en general, las niñas y las mujeres están más expuestas a la sexualización o la sextorsión”. En ese sentido, los deepfakes sexuales pueden convertirse en una nueva vía para reproducir formas ya conocidas de misoginia, violencia basada en género y control sobre el cuerpo de las mujeres.

Un informe de State of Deepfakes de 2023, centrado principalmente en mujeres adultas, encontró que el 98 % de los deepfakes detectados eran pornográficos y que las mujeres aparecían como víctimas en el 99 % de los casos. Una tendencia que dialoga con los hallazgos de Disrupting Harm, en Colombia, el informe encontró una mayor afectación entre las niñas y adolescentes. No obstante, eso no significa que menores de edad hombres queden por fuera del riesgo.

La presidenta advierte que más allá de quién sea la víctima, estos contenidos afectan por igual “su dignidad, privacidad, reputación y bienestar emocional”. Entre las consecuencias aparecen sentimientos de autoinculpación, vergüenza y una profunda sensación de vulnerabilidad.

Si un caso así ocurre hoy en Colombia, niños, niñas y adolescentes pueden acudir a distintos canales de denuncia y atención, como la línea del Instituto Colombiano de Bienestar Familiar (ICBF), el portal Te Protejo, el Sistema Nacional de Denuncia Virtual ¡A Denunciar! de la Policía y, cuando corresponde una investigación penal, la Fiscalía.

Para poner en perspectiva la magnitud de este problema, al menos 1,2 millones de niños y niñas en distintos países dijeron que sus imágenes habían sido convertidas en deepfakes sexualmente explícitos. En algunos lugares, la proporción llega a uno de cada 25 menores. Es decir, aproximadamente un estudiante por salón de clase.

(Le puede interesar: Tini, Britney Spears y la violencia económica que puede esconderse en la familia)

🟣📰 Para conocer más noticias y análisis, visite la sección de Género y Diversidad de El Espectador.

✉️ Si tiene interés en los temas de género o información que considere oportuna compartirnos, por favor, escríbanos a cualquiera de estos correos: lasigualadasoficial@gmail.com o ladisidenciaee@gmail.com.