Violencia sexual en internet: así ha empeorado con la inteligencia artificial

Existe la idea de que las tecnologías son herramientas neutrales, cuyo impacto positivo o negativo depende del uso individual. Es decir, que si se emplean para causar daño, el problema no estaría en el objeto, sino en quien lo utiliza. Pero esa explicación se queda corta cuando se recuerda que las tecnologías se diseñan, se entrenan y se lanzan al mundo a partir de decisiones humanas. Y si históricamente en esos espacios se ha excluido una parte de la población, las mujeres, también se excluyen preguntas importantes, enfoques y posibles riesgos. Algo que empieza a evidenciarse en la manera en que estas herramientas terminan facilitando y amplificando distintas formas de violencia contra las mujeres.

Al menos en internet, casi cada avance que nace de años de investigación encuentra, en tiempo récord, una forma de convertirse en instrumento de violencia digital. El ejemplo más reciente son las gafas con cámaras e inteligencia artificial, como las Ray-Ban Meta, uno de los modelos más populares hasta el momento. Aunque llevan menos de dos años en el mercado, ya han sido usadas para grabar mujeres sin su consentimiento y exponer esos videos en línea. Tanto así que incluso existe un nombre popular para quienes lo hacen: los “manfluencers”, que se filman probando supuestos tips de seducción, muchas veces acosándolas y luego convierten esas interacciones en contenido de redes.

Las noticias sobre este tema abundan. Solo hace unas semanas, París Hilton recordó, en un discurso público, cuando su expareja difundió sin su consentimiento un video íntimo, un episodio que fue tratado por la opinión pública y los medios como un “escándalo” y no como una forma de violencia. Su discurso se dio en medio de la discusión por una iniciativa legislativa en Estados Unidos que busca prohibir imágenes sexualizadas creadas con inteligencia artificial, un fenómeno que golpea la nueva era digital.

Según el último informe global de ONU Mujeres, el 38 % de las mujeres ha sido víctima de violencia digital y el 85 % ha presenciado agresiones en línea. La situación se agrava para quienes participan activamente en la vida pública, como defensores, activistas o periodistas, pues el 41 % reporta afectaciones que trascienden las pantallas. Lo alarmante, es que entre las múltiples formas de violencia en línea, el acoso sexual es el que más afecta a mujeres, con practicas que van desde que compartan sus imágenes íntimas sin consentimiento, recibir mensajes sexuales no deseados, llamadas insistentes u hostigamiento en redes sociales.

De acuerdo con Ángela Andrade, investigadora sobre violencia digital en Colombia, estas prácticas no son nuevas. Si se mira más atrás, aparecen casi desde el nacimiento de internet. Recuerda que en los años setenta existían los BBS, sistemas que funcionaban como tablones digitales para compartir textos y que también fueron usados para ejercer acoso sexual y hostigamiento, aunque en ese momento todavía no existiera un nombre para describirla.

A esto se suma que, a finales de los noventa, ya circulaban en foros como Usenet textos pornográficos, “fantasías” violentas y espacios dedicados a sexualizar a las mujeres. A comienzos de los años 2000, el problema se trasladó al correo electrónico, cuando los “spam” pornográficos se convirtieron en una preocupación nacional en Estados Unidos, uno de los países con más registros en este tema.

Con la llegada de las primeras redes sociales, el fenómeno se intensificó. Plataformas como GeoCities, Yahoo, Friendster o MySpace permitieron crear perfiles falsos, el acoso anónimo, el envío de material sexual no solicitado y adaptar las violencias a otras formas que antes solo podían ser escritas.

No se trata de una violencia nueva, sino de una violencia que se traslada y se adapta a cada escenario tecnológico, donde encuentra formas cada vez más masivas y accesibles. Al mismo tiempo, reproduce el orden social existente, con sus machismos, racismos y clasismos. “Por su inmediatez, potencia la violencia y hace que sus efectos sean más arrasadores”, añade Andrade en conversación con El Espectador.

En una sociedad que históricamente ha hipersexualizado a las mujeres y niñas y ha puesto el valor de sus cuerpos en relación con la sexualidad, como señala Andrade, sus cuerpos se convierten en objeto de control y juicio permanente. Por eso, atacarlos, sexualizarlos sin consentimiento o viralizarlos en internet se convierte en una forma eficaz de castigo y dominación. “A las mujeres se les violenta porque se puede; es un ejercicio de poder y hay un sistema que permite que eso pase”, añade la experta.

Según Fernanda Medellín, integrante de la Red Latinoamericana de Defensoras Digitales, entender que lo virtual también es real fue clave para empezar a nombrar estas violencias. Pues que no haya agresión física no significa que no existan afectaciones en la salud mental, la dignidad y la integridad de quienes las viven. Por eso, hace trece años, en América Latina, ese reconocimiento tomó forma con el activismo de las mujeres que impulsan la Ley Olimpia, una iniciativa para sancionar las agresiones cometidas en línea. A partir de ese trabajo, identificaron características propias de la violencia en la región que se reforzaban con el conflicto armado, la explotación sexual que enfrentan personas migrantes y las llamadas “narcoestéticas”, que refuerzan la hipersexualización.

Durante años, muchos de estos casos se metían en el mismo paquete: “ciberbullying” o “hackeo”, lo que dejó a muchas mujeres sin herramientas para identificar lo que vivían ni figuras penales que permitieran sancionarlo. Nombrar la violencia sexual digital permitió reconocer un patrón sistemático, presente en en plataformas como Facebook, Reddit, WhatsApp o Telegram. Allí se han creado grupos para compartir imágenes íntimas sin consentimiento, pornografía infantil, ejercer chantaje o intercambiar consejos para abusar mujeres. Casos como “Las princesas de papá”, “Mia Moglie” o los llamados “rape chats” muestran la existencia de prácticas organizadas de control y violencia contra mujeres y menores.

El panorama es más desalentador con la inteligencia artificial. Lo que antes requería una edición manual, hoy puede generar en segundos imágenes y videos sexuales casi indistinguibles de la realidad, como los deepfakes. Un ejemplo fue Grok, la IA de X, que entre el 29 de diciembre y el 8 de enero permitió la creación de una imagen sexualizada cada 41 segundos. Según una investigación del Centro para Contrarrestar el Odio Digital junto a The New York Times, en solo once días se generaron cerca de tres millones de imágenes de este tipo, incluidas más de 23.000 que involucraban menores de edad.

Una violencia que, una vez más, recae sobre las mujeres de manera desproporcionada. Naciones Unidas estima que hasta el 95 % de los deepfakes en línea son imágenes pornográficas no consentidas y que el 99 % de las personas a las que se están dirigidas a ellas.

De acuerdo con Andrade, el principal problema es la disparidad entre quienes violentan y quienes buscan proteger. Mientras los abusos avanzan rápido, las respuestas institucionales van lento. Además, se habla de sistemas que priorizan la respuesta penal por encima de la prevención, la reacción muchas veces llega cuando el daño ya está hecho.

Según cifras del Banco Mundial, menos del 40 % de los países cuentan con leyes que protejan a las mujeres del acoso o el acecho cibernético, es decir, más de la mitad de las mujeres y niñas del mundo carecen de protección legal contra el abuso digital.

Las fuentes consultadas consideran que aunque las plataformas se presenten como neutrales, en realidad operan bajo un modelo que prioriza la acumulación de datos y la actividad. “Las interacciones, comentarios, likes y contenidos compartidos siguen produciendo información para que estas empresas continúen llenándose los bolsillos a costa de la dignidad, la integridad y la imagen de las personas. Mientras esa visión del algoritmo patriarcal continúe y no se exija responsabilidad ni transparencia algorítmica, cada avance en las plataformas también se verá permeado por la violencia”, concluye Medellín, vocera de la Ley Olimpia.

🟣📰 Para conocer más noticias y análisis, visite la sección de Género y Diversidad de El Espectador.

✉️ Si tiene interés en los temas de género o información que considere oportuna compartirnos, por favor, escríbanos a cualquiera de estos correos: lasigualadasoficial@gmail.com o ladisidenciaee@gmail.com.