¿Qué hacer con los discursos de odio?

El Ministerio de Justicia alemán presentó al Parlamento un proyecto de ley que incluye multas de hasta 50 millones de euros a compañías como Facebook, Twitter o YouTube que tarden en eliminar “mensajes de odio” o manifiestamente falsos en sus plataformas digitales. Aunque es entendible la preocupación del Gobierno alemán, que está en pleno año electoral, la manera de enfrentar el problema es inadecuada y crea incentivos para vulnerar la libertad de expresión en internet.

La ley funcionaría de la siguiente manera: las empresas serían sancionadas si en 24 horas no han borrado contenidos “claramente delictivos”, y ese plazo se aumenta a una semana para los casos donde el daño no es tan evidente. Heiko Maas, ministro de Justicia, dijo que “se eliminan muy pocos contenidos delictivos. Y no se hace lo suficientemente rápido”, según reporta El País de España. Las cifras lo respaldan. Según una encuesta publicada por el gobierno alemán, Twitter sólo borró el 1 % del contenido denunciado; Facebook, el 39 %, y YouTube, un excelente 90 %.

¿Cuál es el problema con lo anterior? Un caso en Alemania es muy diciente. Anas Modamani, un joven sirio, se tomó una fotografía con la canciller Ángela Merkel que se volvió viral. Su fama, no obstante, hizo que se empezaran a publicar mensajes donde lo responsabilizaban de ataques terroristas, lo que es falso. Facebook tardó en eliminar esos mensajes y su reputación fue seriamente afectada.

El problema del odio en internet es uno de los retos más importantes de las sociedades modernas. Es cierto que las regulaciones de la injuria y la calumnia no han servido para evitar la difusión de esos delitos en las redes. Sin embargo, sancionar a las plataformas genera incentivos perversos para la libertad de expresión. Como lo explicó Stefan Dedmon, encargado global de privacidad para Facebook, “estos son problemas difíciles porque involucran dilemas. Queremos que todo el mundo esté feliz, pero también queremos que internet sea libre y abierta a una gran variedad de contenido. Además, no queremos que las empresas (ni los gobiernos) se vuelvan los censores de la red”.

Eso es precisamente lo que hace una sanción de este tipo: motivar la creación de herramientas que borren todo el contenido sin mayores filtros y darles el poder a entidades privadas de juzgar qué es un mensaje de odio y qué está protegido por la libertad de expresión. Aunque quisiéramos que en este tema hubiese una solución sencilla, no la hay.

Se nos ocurren un par de deudas en estos dilemas que también aplican en el país. Primero, las empresas como Facebook tienen que asumir una responsabilidad mayor en ayudar a identificar a los usuarios que enviaron mensajes que ya han sido definidos por un juez como injuriosos o calumniosos o donde la malicia sea evidente. Eso ayudaría muchísimo a romper la impunidad cómplice que prima en las redes.

Segundo, y esto es más complicado, necesitamos fomentar la educación de los usuarios de internet. Las secciones de comentarios han sido conquistadas por los “troles”, aquellos que sólo difunden el odio y las mentiras. Una forma de combatirlos es que los demás usuarios, la mayoría silenciosa, no sólo los interpele para demostrarles que están solos, sino también fomenten discusiones productivas y, ante todo, respetuosas. A medida que la sociedad se vuelve cada vez más dependiente de lo digital, tenemos que tratar en serio este problema.

Lo claro, no obstante, es que sancionar a las plataformas es inútil y puede fomentar la censura de la internet libre. No se pueden sacrificar las libertades esenciales sólo porque los retos son muy complejos.

¿Está en desacuerdo con este editorial? Envíe su antieditorial de 500 palabras a yosoyespectador@gmail.com.

El Ministerio de Justicia alemán presentó al Parlamento un proyecto de ley que incluye multas de hasta 50 millones de euros a compañías como Facebook, Twitter o YouTube que tarden en eliminar “mensajes de odio” o manifiestamente falsos en sus plataformas digitales. Aunque es entendible la preocupación del Gobierno alemán, que está en pleno año electoral, la manera de enfrentar el problema es inadecuada y crea incentivos para vulnerar la libertad de expresión en internet.

La ley funcionaría de la siguiente manera: las empresas serían sancionadas si en 24 horas no han borrado contenidos “claramente delictivos”, y ese plazo se aumenta a una semana para los casos donde el daño no es tan evidente. Heiko Maas, ministro de Justicia, dijo que “se eliminan muy pocos contenidos delictivos. Y no se hace lo suficientemente rápido”, según reporta El País de España. Las cifras lo respaldan. Según una encuesta publicada por el gobierno alemán, Twitter sólo borró el 1 % del contenido denunciado; Facebook, el 39 %, y YouTube, un excelente 90 %.

¿Cuál es el problema con lo anterior? Un caso en Alemania es muy diciente. Anas Modamani, un joven sirio, se tomó una fotografía con la canciller Ángela Merkel que se volvió viral. Su fama, no obstante, hizo que se empezaran a publicar mensajes donde lo responsabilizaban de ataques terroristas, lo que es falso. Facebook tardó en eliminar esos mensajes y su reputación fue seriamente afectada.

El problema del odio en internet es uno de los retos más importantes de las sociedades modernas. Es cierto que las regulaciones de la injuria y la calumnia no han servido para evitar la difusión de esos delitos en las redes. Sin embargo, sancionar a las plataformas genera incentivos perversos para la libertad de expresión. Como lo explicó Stefan Dedmon, encargado global de privacidad para Facebook, “estos son problemas difíciles porque involucran dilemas. Queremos que todo el mundo esté feliz, pero también queremos que internet sea libre y abierta a una gran variedad de contenido. Además, no queremos que las empresas (ni los gobiernos) se vuelvan los censores de la red”.

Eso es precisamente lo que hace una sanción de este tipo: motivar la creación de herramientas que borren todo el contenido sin mayores filtros y darles el poder a entidades privadas de juzgar qué es un mensaje de odio y qué está protegido por la libertad de expresión. Aunque quisiéramos que en este tema hubiese una solución sencilla, no la hay.

Se nos ocurren un par de deudas en estos dilemas que también aplican en el país. Primero, las empresas como Facebook tienen que asumir una responsabilidad mayor en ayudar a identificar a los usuarios que enviaron mensajes que ya han sido definidos por un juez como injuriosos o calumniosos o donde la malicia sea evidente. Eso ayudaría muchísimo a romper la impunidad cómplice que prima en las redes.

Segundo, y esto es más complicado, necesitamos fomentar la educación de los usuarios de internet. Las secciones de comentarios han sido conquistadas por los “troles”, aquellos que sólo difunden el odio y las mentiras. Una forma de combatirlos es que los demás usuarios, la mayoría silenciosa, no sólo los interpele para demostrarles que están solos, sino también fomenten discusiones productivas y, ante todo, respetuosas. A medida que la sociedad se vuelve cada vez más dependiente de lo digital, tenemos que tratar en serio este problema.

Lo claro, no obstante, es que sancionar a las plataformas es inútil y puede fomentar la censura de la internet libre. No se pueden sacrificar las libertades esenciales sólo porque los retos son muy complejos.

¿Está en desacuerdo con este editorial? Envíe su antieditorial de 500 palabras a yosoyespectador@gmail.com.