EE le explica: el escándalo de Telegram por un bot que “desnuda” mujeres

Telegram es una plataforma de mensajería creada por Nikolái y Pável Dúrov, dos hermanos rusos.

Hace un año, el portal Vice reveló la existencia de una aplicación que usaba inteligencia artificial para transformar fotos de mujeres con ropa en fotografías de ellas mismas aparentemente desnudas. A eso se le denomina como un “deepfake”, un montaje.

Esta semana, la revista MIT Technology Review publicó un informe de la empresa de ciberseguridad Sensity en donde esta detalla cómo esta práctica ha llegado a la plataforma de Telegram, uno de los servicios de mensajería más usados del mundo.

¿Qué es Telegram?

Es una plataforma de mensajería, como WhatsApp, que cuenta con las funciones más conocidas de su principal competidos, como la función para compartir archivos o crear canales de difusión. Además de esto, Telegram le permite a sus usuarios automatizar tareas masivas con el desarrollo de bots para realizar actividades en el ámbito empresarial o social.

Un ejemplo: PDF Bot

Este es uno de los bots más populares de la plataforma y ofrece múltiples funciones para el manejo de archivos PDF, como unirlos, cifrarlos, rotarlos, escalarlos, agregarles marcas de agua o extraerles el texto.

Por supuesto, esta tecnología, como todo, puede ser usada para el bien o para el mal. Y eso es precisamente lo que la empresa Sensity descubrió: uno eso tenebroso de esta tecnología.

¿Qué son los bots?

Los bots son programas informáticos que cumplen tareas de manera automática y repetitiva en internet. Es decir, un humano los programa para realizar una determinada tarea una y otra vez. (Como los bots de Twitter que están programados para decirnos que somos unos “castrochavistas”).

Y ahora sí: ¿cuál fue el escándalo con Telegram?

La empresa de seguridad digital Sensity publicó un informe en el que denuncia haber encontrado un canal de Telegram, que al parecer continúa activo, en el que los usuarios pueden enviar una foto de una mujer vestida y los bots devuelven un montaje de esa mujer sin ropa. Una práctica atroz.

Estos montajes, más conocidos como “deepfakes”, se logran con una técnica de inteligencia artificial que cruza videos y fotos de internet con la imagen enviada. Es similar a lo que se hace con otras aplicaciones como Oldify, la cual permite envejecer el rostro de una persona, o Doublicat, la cual da una sensación de cambio de rostro con un famoso.

Para que la próxima vez que vayan a usar estas aplicaciones lo piensen dos veces. Recuerde estudiar sus derechos digitales e informarse de los peligros que hay en internet. Fin del mensaje institucional. Le recomendamos: Así está la ciberseguridad en América Latina

Según Sensity, este canal de Telegram cuenta con más de 100.000 usuarios, la mayoría ubicados en Rusia. Sin embargo, también hay una cantidad significativa de miembros en América Latina. En julio, la forma dijo que los bots generaron 104.000 deepfakes, una cantidad alarmante de montajes.

En los últimos tres meses, la producción de montajes ha aumentado en 200 %. Y lo que es peor: la mayor parte de los miembros del canal usan este software para crear fotos desnudas de mujeres que conocen en la vida real. Está bien, mentimos, hay algo peor que eso: que las víctimas no saben que hay montajes de ellas rondando por internet.

“La mayoría de imágenes parecen haber sido sacadas de páginas de redes sociales o de comunicaciones privadas, de mujeres que probablemente no sean conscientes de que sus fotos van a ser usadas para ese fin. Mientras que la mayoría son personas privadas, hemos identificado un número significativo de influencers, streamers de vídeojuegos y famosas de mayor perfil”, dice el informe.

Este bot de Telegram es mucho más peligroso que otros software de este estilo como DeepNude, el cual también transformaba fotos de mujeres con ropa en desnudos con un algoritmo de aprendizaje automático, pues es gratuito.

Esto es terrible: ¿qué está haciendo Telegram?

La plataforma no ha realizado comentarios sobre este escándalo. Ni a los medios de comunicación ni a la empresa Sensity. Sin embargo, según informó El País, algunas de las funciones de este canal “parecen haber sido desactivadas la noche del lunes, después de que algunos periodistas contactaran a sus creadores antes de la publicación del informe (de Sensity)”.

El gran problema, como dice Giorgio Patrini, fundador y CEO de Sensity, no es tanto la existencia sino la facilidad que tienen los usuarios para acceder a este software.

“El uso de este software requiere saber código y hardware específico, pero aquí no: no hay requisitos, ni conocimientos técnicos, ni hardware y es gratis”, señala Patrini.

Al igual que los otros medios de comunicación no revelaremos el nombre de este canal para no ampliar su distribución. Le recomendamos ser responsable con el uso de internet y que esté al tanto de las noticias sobre derechos digitales y sobre los datos que comparte en línea.

¿Esto es nuevo?

No, no lo es. Y tampoco es el único software de este tipo. Como mencionamos anteriormente, hay otros softwares como DeepNude, que se lanzó hace un año, que usan la inteligencia artificial para este tipo de ciberdelitos. Y aunque sus creadores cerraron el proyecto, el código de programación que usaron fue compartido en internet, por lo que puede haber más aplicaciones de este estilo.

Los deepfakes están empeorando y las mujeres son las principales víctimas. Prácticas como esta, o como la llamada “porno venganza”, solo buscan degradar a las mujeres, pues se usan para acosar y humillar. Y esto puede acabar con la carrera de alguien, además de cosas mucho peores como el impacto que produce en su salud mental.

En 2019, Katie Hill, exrepresentante a la Cámara de Estados Unidos, se vio obligada a renunciar a su cargo luego de que se filtraran unas imágenes y detalles sobre su vida sexual. Incluso llegó a contemplar el suicidio.

“Además de violar los derechos de la víctima a sus propias imágenes y privacidad, una de las principales preocupaciones es el impacto potencial de Deepfakes en el porno de venganza. Como vimos en el caso de la representante Katie Hill, el porno de venganza puede acabar con la carrera política de alguien. Con tecnologías como Deepfake, la pornografía de venganza o las campañas de difamación cibernética pueden adquirir una dimensión completamente nueva y potencialmente afectar a una población más amplia de víctimas”, escribe Chenxi Wang, colaboradora de asuntos de seguridad cibernética de Forbes y fundadora de Rain Capital, en un artículo en esa revista.

Wang además advierte que a medida que surja un número creciente de comunidades de creación de deepfake en todo el mundo, este contenido puede proliferar más rápido y expandirse en la red, por lo que los legisladores de todas las naciones deben presentar pronto proyectos para desafiar estas malas prácticas.

Le recomendamos: Los desafíos de la ciberseguridad en tiempos de pandemia