En días recientes, algo aterrador ha venido sucediendo en la plataforma X, antes Twitter: hombres en la red social han estado utilizando las herramientas de la IA para convertir fotos de mujeres reales en versiones donde aparecen en bikinis, con ropa transparente o en situaciones explícitas. El resultado ha sido cientos de mujeres vulneradas, asustadas e impotentes sin que medie ninguna restricción ni medida ya que el algoritmo no considera que se esté generando contenido lascivo.
Sabemos que el machismo es un problema estructural y que los usos inadecuados de la inteligencia artificial brotan de esa misma raíz. Sin embargo, es necesario detenernos a pensar en la naturaleza de la propia IA y en la forma en que se ha convertido en un instrumento de alcance casi ilimitado capaz de reproducir violencias en condiciones cercanas a la impunidad. ¿Qué imaginan las máquinas cuando les pedimos crear, y quién les enseñó a imaginar de esa manera? Un algoritmo no es más que la sedimentación de millones de datos que, acumulados, terminan privilegiando determinadas miradas sobre otras. Si hoy una IA puede generar imágenes de mujeres en contextos que las cosifican, es porque previamente ha sido saturada de ese tipo de representaciones. Pero no se trata solo de lo que se le ha enseñado: también es lo que deliberadamente se ha decidido no limitar. La omisión de filtros de seguridad, privacidad y control no es un descuido técnico, sino una elección. Y detrás de estas inteligencias artificiales no hay abstracciones, sino personas concretas: hombres ultrarricos, propietarios de gigantes tecnológicos, que han expandido su influencia de manera acelerada sobre los ámbitos social, político y cultural a escala global. No es casual que recientemente los hayamos visto respaldar abiertamente la campaña de Donald Trump e, incluso, incorporarse a su gobierno.
Elon Musk, Mark Zuckerberg y compañía están moldeando la forma en que vemos y entendemos el mundo. A través de las decisiones que incorporan en sus plataformas y sistemas de inteligencia artificial, privilegian una visión que normaliza la violencia y amplifica exclusiones históricas. En X, la IA ha llegado a reproducir posturas abiertamente racistas, xenófobas, homófobas y, lógicamente, profundamente machistas. No se trata de errores aislados ni de excesos del usuario, se trata de un ecosistema creado y alimentado para ser así. Lo que tenemos entonces no es un aparato neutral que procesa información de manera ecuánime, es el reflejo de la imaginación y las posiciones de quienes lo poseen.
De manera urgente debemos acelerar los procesos de comprensión de este fenómeno para poder construir herramientas jurídicas, sociales y culturales capaces de hacerle frente a este poderoso entramado. La salida no está en la negación, la inteligencia artificial ya está aquí y no va a desaparecer. El desafío consiste en imaginar y construir contrapesos democráticos que permitan regularla y traducir esa regulación en medidas concretas y eficaces, capaces de garantizar un entorno digital basado en derechos. Ojalá lo logremos, nos llevan bastante ventaja en la disputa.
