El peligro detrás de poder utilizar la Inteligencia Artificial para generar voces

Luego de la difusión y la popularización de las inteligencias artificiales, usuarios de estas han encontrado una forma de suplantar la voz de las personas y de personajes ficticios.

Foto: El Espectador

Existen técnicas avanzadas de inteligencia artificial (IA) y síntesis de voz que permiten la creación de voces altamente realistas y su manipulación para que suene como la de una persona en particular, incluidos famosos. La adaptación de voz se basa en el aprendizaje automático y el procesamiento del habla. Mediante el entrenamiento de modelos de inteligencia artificial con grabaciones de una persona específica, es posible capturar sus patrones vocales, entonación y estilo distintivos.

Una vez que el modelo esté alterado, se puede usar para generar una voz sintética que suene como la original. Sin embargo, es importante destacar que el uso de la voz de una persona sin su consentimiento para decir cosas que no han dicho puede plantear problemas éticos y legales. La falsificación de voces de famosos o cualquier otra persona para crear contenido falso, es perjudicial y se puede prestar para malentendidos.

En la nota de El Espectador del 23 de mayo de este 2023, titulada Así es como usan la inteligencia artificial para robar por medio de videollamada, se relató como un hombre en China recibió una videollamada de su esposa a través de la red social de mensajería WeChat. En la llamada, la mujer le pidió 3.600 dólares porque supuestamente había tenido un accidente automovilístico y necesitaba el dinero para mediar con el otro conductor.

Aunque la videollamada provenía de un usuario diferente al de su esposa, el hombre no sospechó y transfirió el dinero, ya que la persona al otro lado de la línea tenía los mismos rasgos físicos y su tono de voz era igual al de la mujer.

(Puede leer: Whatsapp: así puede activar el modo “Barbie” en la aplicación)

Según The Washington Post, solo en Estados Unidos se reportaron 36.000 denuncias de personas que fueron engañadas mediante la clonación de voz. Los delincuentes utilizan inteligencia artificial para emular a queridos y familiares de las víctimas, haciéndose pasar por ellos y exigiendo dinero u objetos de valor bajo la excusa de solucionar una emergencia.

Sin ir tan lejos a un campo delictivo, si es consumidor de redes sociales, se habrá topado con videos cuya finalidad es el entretenimiento, en el que por medio de otra IA ponen las voces de personajes y actores famosos a decir cosas graciosas, cuestionables y hasta cantar canciones. En este punto, los más populares han sido de Freddie Mercury cantando canciones de Julio Jaramillo o artistas semejantes en español o incluso, Homero Simpson cantando “Rosa Pastel” de Belanova o la “Gata Bajo la Lluvia” de Rocío Dúrcal.

‘Spider-Man: A través del Spider-Verso’

Hace unos meses, por el estreno de “Spider-Man: A Través del Spider-Verso” surgió una polémica por el uso de startalents en el doblaje al español latino de la cinta, decisión de SONY que incomodó a muchos fans de la película y entusiastas del doblaje (polémica que explicamos en el artículo Spider Man Across The Spider-Verse: Polémica por doblaje realizado por influencers). Mientras la atención social se desviaba por toda la movida mediática que causó esta estrategia corporativa, se pasó por alto la amenaza que significa la producción de voces con lA a la industria de la locución y el doblaje.

La Organización de Voces Unidas (OVU), compuesta por gremios y sindicatos de Europa, Estados Unidos y Latinoamérica, ha surgido bajo el lema “No roben nuestras voces” con el objetivo de impulsar legislaciones que armonicen la inteligencia artificial y la creación humana. Advierten que el uso indiscriminado de la IA puede extinguir un patrimonio artístico que las máquinas no pueden generar.

(Puede leer: Los tres celulares de Xiaomi ideales para tomar fotos estas vacaciones)

Inteligencia Artificial generativa

La IA generativa combina el aprendizaje automático con el análisis de millones de muestras de voz existentes para crear clones vocales. Esta tecnología se alimenta de las voces que los artistas han subido durante años, lo que plantea cuestiones de derechos humanos y consentimiento en la utilización de la voz y la interpretación.

Plataformas como revoicer.com ofrecen alternativas ventajosas a precios mucho más bajos que los profesionales, lo que genera preocupación entre los intérpretes. Estos buscan leyes que protejan sus registros de voz y establezcan cuotas de trabajo humano en el entrenamiento de IA.

Recientemente, Paul Eiding, un reconocido actor de voz conocido por su interpretación de Roy Campbell en el juego Metal Gear Solid, enfatizó que aquellos que no cuentan con su permiso por escrito para utilizar su voz, incluyendo el uso de la IA, están violando sus derechos legales. La reacción del actor se debe a que algunos usuarios han empleado herramientas de IA para reemplazar los audios de los videojuegos, creando parodias o incluso frases inapropiadas.

A pesar de que su enojo está dirigido a una parte de los fanáticos, la mayoría de las personas están de acuerdo con su postura y respaldan su punto de vista. Algunos argumentan que la culpa no recae en la inteligencia artificial en sí, sino en cómo se emplean estas herramientas de manera inapropiada.

(Puede leer. ChatGPT pierde casi un 10 % de tráfico a nivel mundial)