Facebook e Instagram lanzan ‘Take It Down’: ¿Qué es y cómo funciona la plataforma?

Que una imagen íntima personal se comparta con otros puede ser aterrador y abrumador, especialmente para los jóvenes. La sensación puede ser aún peor cuando alguien intenta utilizar esas imágenes como amenaza para obtener más imágenes, contactos sexuales o dinero, un delito conocido como sextorsión.

Te puede interesar: ¿Cómo saber si tu celular está chuzado? Estos tips serán de ayuda

Te invitamos a leer más contenidos como este aquí

Esta semana se anunció que tanto Facebook como Instagram son miembros fundadores de Take It Down, una nueva plataforma del NCMEC para ayudar a evitar que las imágenes íntimas de los jóvenes se publiquen en línea en el futuro.

¿Qué es ‘Take It Down’ y cómo ayudará a lo jóvenes?

Take It Down permite a los jóvenes recuperar el control de sus imágenes íntimas. Las personas pueden ir a este link y seguir las instrucciones para presentar un caso que buscará proactivamente sus imágenes íntimas en las aplicaciones participantes.

Revista Cromos habló en exclusiva para Colombia con MC Capelo, líder del área de Seguridad y Bienestar de Meta para América Latina, quien explicó más del tema.

Cromos: ¿‘Take it Down’ la pueden usar los menores o es para las personas en general?

MC Capelo: ‘Take it down’ es una plataforma que está dirigida a menores. Para mayores desde 2021 una plataforma muy parecida que funciona para personas adultas pero como el umbral de protección es mucho mayor para menores de edad, niñas y adolescentes, quisimos trabajar de la mano con NCMEC que es el centro nacional para niños desaparecidos y explotados, con el fin de asegurarnos que el diseño estuviera pensado desde todos los ángulos para la protección absoluta de todos”.

Es importante mencionar que “nosotros en Meta tenemos cero tolerancia con la explotación infantil, la explotación sexual infantil, o ante a cualquier contenido que ponga en riesgo a nuestros niños, niñas y adolescentes y tenemos unos compromisos ya sea que venga desde el uso de las redes, como desde nosotros en cuanto al diseño de las plataformas para poder proteger a las personas, en especial a los menores”.

C: ¿Cuánto llevan trabajando en este proyecto?

MC: nosotros llevamos más de 15 años trabajando en tecnología que busque acabar o atajar este fenómeno de la explotación sexual infantil en línea entonces tenemos desarrolladas tecnologías que aplicamos en nuestras plataformas, para que cuando alguien intente subir imágenes o videos de explotación sexual infantil o amenaza o pide ese tipo de cosas, podamos darlas de baja antes de que tan siquiera se suban”.

También agregó que “tenemos herramientas que funcionan con inteligencia artificial para detectar cuando un adulto que no está conectado con un menor de edad está tratando de hacerlo lo que queremos es prevenir ese tipo de cosas y atacar el problema en un 360 por decirlo así.

C: Cabe destacar que el riesgo de la viralidad de una imagen íntima es muy grande, ¿no?

MC: La tecnología que usamos nosotros no solamente ataja una imagen que está intentando ser compartida sino qué es una huella digital a esa imagen hace video y eso nos permite que cualquier no intento de compartir esa imagen o video va a ser frustrado porque tenemos la base de datos de estos números y letras que hacen parte de la voy a digital.

Eso además lo compartimos con NCMEC, que es el centro nacional para niños desaparecidos y explotados, que en tiempo real, cuando haya un incidente lo reportan a las autoridades locales incluyendo a las de Colombia y así ellos pueden iniciar su investigación.

C: ¿Cómo fue entonces ese proceso de desarrollo de ‘Take it down’?

MC: Intendemos por el trabajo que venimos haciendo con expertos de toda la región que hay varias situaciones en las que los menores de edad, familias puede necesitar justo para prevenir. Lo que hicimos con ‘Take It Down’ fue poner esta misma tecnología que usamos en nuestras plataformas en manos de las personas; entonces, cuando tú entras a la plataforma vas a poder seguir un proceso.

Si tu tienes las imágenes, un video o varios videos en tu tableta, en tu computador o en tu teléfono, ahí es donde se va a generar esa huella digital que se comparte después con las empresas participantes. Nunca subes una imagen, nunca subes un video, es totalmente privado el proceso, solo funciona la tecnología directo en tu dispositivo, entonces de entrada eso queríamos cuidar de lleno, que siempre estuviera la privacidad de las personas y especialmente de los menores de edad, en este caso, al frente.

C: ¿Qué pasa si alguien justamente esta pasando ahora por la filtración de sus fotos o incluso está siendo extorsionado?

MC: si ya las imágenes fueron compartidas bien sea porque se le pasaron a otra persona y te están extorsionando o alguien la subió a la Red lo primero que se debe hacer es reportar a la plataforma donde fueron compartidas estas imágenes en todas ellas tenemos mecanismos de reporte incluidos Facebook Instagram y WhatsApp o directamente con una línea de ayuda o autoridades locales.

Esta herramienta es preventiva entonces en un ejemplo si tú tienes imágenes que sabes qué has compartido con alguien te han amenazado o sientes que te podrían amenazar o extorsionar con este tipo de contenido la herramientas para prevenir entonces lo que haces en esta plataforma es seguir las instrucciones son realmente sencillas y están en español, puedes hacer el proceso en 5 o 6 pasos y así se va a generar la huella digital.

NCMEC a continuación a generar esas huellas digitales nunca imágenes nunca Videos eso nunca lo verán nadie sólo la huella y eso se va a compartir con nosotros entonces nosotros vamos a tener esas huellas digitales y si alguien intenta subir tu imagen tu video y hace coincidencia con esa huella digital no lo vamos a permitir. Algunas empresas como OnlyFans también hacen parte de esta iniciativa y se van a seguir uniendo otras empresas, entonces lo importante aquí es que se sepa que es una herramienta preventiva y si algo ya sucedió lo importante es ir inmediatamente a la plataforma donde fueron publicadas las imágenes y reportarlo.

C: ¿En cuánto tiempo esa imagen ya no se encontraría en las plataformas digitales?

MC: todos tenemos un mandato de aparecer lo antes posible entonces por ejemplo en el caso de Facebook y Instagram nosotros removemos el 99 % de las veces estas imágenes antes de que alguien las pueda ver y si llega por alguna razón a salir, es muy rápido que podemos detectarlo con inteligencia artificial, reportarlo y se va directo a las autoridades. En nuestro caso este proceso bastante rápido.

Con ‘Take it down’ cómo es de prevención no es necesariamente vas a tener una respuesta simplemente que la base de datos va a estar actualizada imágenes puedes tener un poco más de certeza de que no van a poder ser usadas o compartidas en otras plataformas.

C: ¿Cuáles son las recomendaciones para que los menores no tengan que ser víctimas de acoso o abuso a su privacidad?

MC: Para eso trabajamos con muchos expertos y en Colombia trabajamos con Red papás que tiene muchas guías para tener cuidado. Nosotros admitimos solamente mayores de 13 años en estas plataformas y aunque sea un problema difícil de resolver, sí que contamos con herramientas de inteligencia artificial para saber si estas personas están mintiendo y podamos remover esas cuentas que son de menores de 13 años.

- La primera recomendación que yo haría sería para las familias, no es necesario abrir cuentas antes de que sea la edad apropiada y no permitirles que ellos usar las cuenta de sus padres o hermanos mayores para eso hay otras herramientas digitales.

- Ahora, si ya eres adolescente y estás usando las redes sociales, tenemos un montón de herramientas que hemos ido perfeccionando en los últimos años en las que también debes tomar control de tus plataformas, desde ponerle un modo silencioso para que no te lleguen notificaciones y entonces tomes una pausa, hasta tener cómo bloquear a alguien o como restringir a alguien o bien reportarlo directamente.