El 18 de noviembre, ONU Mujeres lanzó una campaña contra la violencia de género digital en el marco del 25N, Día de lucha contra la violencia de género, y de los 16 Días de activismo. La campaña habla de la desinformación tendenciosa y de acoso coordinado en contra de mujeres con visibilidad pública y de marcos legales que se han quedado rezagados frente a los avances tecnológicos.
Gánale la carrera a la desinformación NO TE QUEDES CON LAS GANAS DE LEER ESTE ARTÍCULO
¿Ya tienes una cuenta? Inicia sesión para continuar
En esa intersección entre violencia y avances tecnológicos se encuentra lo que empieza a llamarse “violencia contra las mujeres facilitada por la IA”, que se refiere a “actos de abuso digital generados y difundidos por la tecnología de IA, que resultan en daños físicos, sexuales, psicológicos, sociales, políticos o económicos u otras violaciones de los derechos y libertades de las mujeres”. Esta es una forma de violencia especialmente insidiosa por su escala y rapidez que puede alcanzar, y porque puede hacerse de forma anónima. Como señala ONU Mujeres, la IA está “creando nuevas formas de abuso y amplificando las existentes”. Entre esas nuevas formas de violencias se cuentan las deepfakes pornográficas y no consensuales (“el 90 % son imágenes de mujeres”), el catfishing usando IA para imitar voces humanas y simular conversaciones, y campañas de doxeo potenciadas por la IA.
La tecnología para crear un deepfake creíble está hoy al alcance de cualquiera y, según la activista Laura Bates, esto ha aumentado los casos de “sextorsión”. “Al hacer que estas tecnologías sean ampliamente accesibles, como sociedad estamos dando a los hombres una poderosa ilusión de propiedad sobre los cuerpos de cualquier mujer que elijan, lo que a su vez tendrá consecuencias en el exacerbamiento de los ya graves niveles de violencia masculina contra las mujeres”, dice Bates en su libro “The New Age of Sexism: How The AI Revolution is Reinventing Misoginy” (La nueva era del sexismo: cómo la revolución de la IA está reinventando la misoginia). En algunos contextos culturales, una deepfake puede acabar con la reputación de una mujer, y esto, a su vez, puede ponerla en riesgo de muerte. La IA también se está usando para potenciar la desinformación sexista que recorre la manosfera.
Por supuesto, todo esto podría evitarse si las empresas de tecnología quisieran. También se necesitan políticas públicas; por ejemplo, que la IA disponible a un público amplio no pueda generar cierto tipo de imágenes y videos, o que los Estados legislen para que todas las creaciones de la IA tengan una marca de agua robusta, de manera que puedan ser rastreadas. ONU Mujeres también recomienda “reclutar más mujeres como investigadoras y creadoras de tecnología y trabajar con organizaciones de mujeres en el diseño de tecnología de IA”. Para Bates, la solución tiene en el fondo un cambio político: descentrar el lucro de algunos titanes privados y regular con la responsabilidad ética de proteger derechos humanos. Esto, en sus palabras, “no significa prohibir el desarrollo ni restringir la investigación en IA. Simplemente significa un enfoque diferente: uno en el que ‘transparencia’ no sea una mala palabra y las salvaguardas sean fundacionales, no una ocurrencia posterior. Significa reconocer que no existe un nivel aceptable de sacrificio humano para lanzar una nueva plataforma o producto. Aspirar a un mundo en el que los humanos no sean un daño colateral no debería ser una idea revolucionaria. Lastimosamente, en lo que respecta a la tecnología, lo sigue siendo”.
