Escucha este artículo
Audio generado con IA de Google
0:00
/
0:00
Desde hace décadas estamos expuestos a la circulación descontrolada de información falsa de todo tipo en el entorno digital, cuyas graves consecuencias abarcan desde malentendidos, daño reputacional a particulares, instituciones o empresas, introducción de malware, generación masiva de odio, miedo o pánico, o de escepticismo y rechazo a procedimientos científicos relacionados con la salud pública —como sucedió durante la pandemia—, la influencia en procesos políticos y la afectación de la democracia, entre otras situaciones. Más recientemente, a partir de la popularización de la inteligencia artificial (IA), el torrente de contenido engañoso, creado con esta tecnología, que se divulga más que todo en redes sociales, se ha vuelto descomunal.
Cualquiera puede confundirse al encontrarse con deepfakes como las de recién nacidos hablando con fluidez, clips de noticieros con anuncios inverosímiles, páginas web con entrevistas o noticias fraudulentas elaboradas con IA, incluso atribuidas a periodistas inexistentes, y muchos casos similares. Este contenido ya es denominado AI slop (basura de IA), término acuñado por el programador británico Simon Willison, en referencia al contenido de baja calidad enteramente creado con IA cuyo único propósito es generar recursos económicos mediante el tráfico en los sitios web, captando la atención con información llamativa, superficial, surrealista, extravagante, nada fiable y, sobre todo, seduciendo al público a través de sus emociones.
Sumamente grave también es la gran cantidad de contenido pornográfico deepfake que, con frecuencia, emplea fraudulentamente rostros de famosos. De hecho, a 2023, la compañía de ciberseguridad Home Security Heroes estimó en 95.820 el número de vídeos deepfake en línea, en una revisión a más de 100 sitios web, lo que representó un incremento del 550 % frente a 2019. Las mujeres son las más atacadas.
Con el engaño y la desinformación están en juego tanto nuestro bienestar como la democracia y, aunque la tecnología puede parecer abrumadora, la IA también puede ser nuestra aliada para darle vuelta a esta situación, utilizándola de manera ingeniosa y ética. Por esto, es urgente y crucial que la educación asuma un rol protagónico no solo para fomentar el discernimiento, sino para aprender a utilizar la diversidad de herramientas que nos brinda para identificar los contenidos engañosos o maliciosos, como sistemas de verificación y chequeo de fuentes y datos, y bots (incluso de las mismas redes sociales), entre muchos otros.
Según la Unesco, que cada año conmemora la Semana Mundial de la Alfabetización Mediática e Informacional (AMI), esto es una habilidad esencial para la vida. Al respecto, comparto esta cita de la organización sobre el tema: “Todas las personas podemos adoptar acciones simples pero poderosas: pausar antes de compartir, cuestionar las fuentes, diversificar los medios de información y comprender cómo funcionan los sistemas de IA. Estos hábitos ayudan a frenar la propagación de la desinformación y reconstruir la confianza”.
* Rector de Unisimón.