El regulador británico de la seguridad en internet, Ofcom, anunció este lunes la apertura de una investigación contra la red social X por la difusión de imágenes de carácter sexual generadas por su asistente de inteligencia artificial, Grok.
Según explicó el organismo en un comunicado, ha recibido “informes muy preocupantes” sobre el uso de esta herramienta para crear y compartir imágenes de personas desnudas a partir de fotos o videos reales, lo que podría constituir delitos contra la decencia, pornografía y, en los casos más graves, material sexual que involucra a menores.
Reacción internacional y medidas de X
La polémica desató protestas en distintos países. Indonesia suspendió el acceso a Grok el sábado y Malasia hizo lo propio el domingo. En medio de las críticas, la plataforma desactivó el viernes la función de creación de imágenes para los usuarios no suscriptores, según AFP.
Desde el Gobierno británico, un portavoz del primer ministro Keir Starmer cuestionó la decisión y advirtió que “simplemente convierte una función que permite la creación de imágenes ilegales en un servicio premium”, una medida que calificó como “un insulto a las víctimas de misoginia y violencia sexual”.
Endurecimiento legal en Reino Unido
Según informó la agencia EFE, la investigación de Ofcom coincide con un endurecimiento inmediato del marco legal en el Reino Unido. El Gobierno anunció que desde esta misma semana será ilegal la generación de imágenes íntimas sin consentimiento, tras la controversia generada por el uso de Grok con estos fines.
La ministra de Tecnología, Liz Kendall, afirmó ante la Cámara de los Comunes que “no son imágenes inofensivas, sino armas de abuso dirigidas de forma desproporcionada contra mujeres y niñas”, y explicó que la normativa también criminalizará a las aplicaciones que permitan la generación de desnudos, con el objetivo de atajar el problema desde su origen.
Alcance de la investigación y posibles sanciones
Ofcom indicó además que la semana pasada solicitó explicaciones formales a X y que la empresa respondió dentro del plazo establecido. La investigación buscará determinar si la red social incumplió sus obligaciones legales, entre ellas la de evaluar y mitigar el riesgo de que usuarios en el Reino Unido accedan a contenidos ilegales, así como los posibles peligros que este tipo de contenidos representa para los menores.
El regulador tiene la facultad de imponer multas de hasta el 10 % de la facturación mundial de la compañía y, en última instancia, acudir a la justicia para solicitar el bloqueo del servicio en el Reino Unido.
👽👽👽 ¿Ya está enterado de las últimas noticias de tecnología? Lo invitamos a visitar nuestra sección en El Espectador.