En el centro comercial Avenida Chile pusieron una cámara en la entrada con un letrero que dice “¡Sonríe! Tu sonrisa abre puertas”. Literalmente se espera que quien visite el centro comercial mire a la cámara y sonría para que la puerta se abra. A alguien se le ocurrió esto, alguien lo desarrolló y alguien lo implementó. Nadie se dio cuenta de lo problemático que es.
Al preguntarle a la persona de seguridad que estaba allí: “¿esto qué es?”, su respuesta fue: “inteligencia artificial”. Al preguntarle: “¿Y si no sonrío no entro?”, su respuesta fue “no”. No se ve nada que sugiera que es un ejercicio obligatorio y tampoco que sea de inteligencia artificial, pero ambas cosas se dejan en el aire. Lo que para el centro comercial es una campaña divertida, para mi es agresiva y no contribuye a la discusión pública que deberíamos tener sobre la tecnología.
¿No les parece agresivo exigir a las personas que anden por la vida contentas? ¿Qué pasa con la que está preocupada, de mal genio o de luto? Si no puede sonreír, ¿no podrá entrar? Me pregunto si tendrá que esperar a que alguien lo haga para colarse. Alternativamente deberá buscar otra puerta donde no le toque sonreír para entrar a comer, sacar dinero o encontrarse con otra persona. ¿Alguien quiere pensar en las y los domiciliarios que siempre están de afán? Es que aunque haya alternativas para entrar al sitio, el diseño de la campaña no es voluntario, se hace para que se sienta que es obligatorio, incluso la persona de seguridad lo refuerza. Esto es agresivo de muchas formas.
La expresión “inteligencia artificial” está tan desgastada que a cualquier acto computacional se le llama así. Aunque “inteligencia artificial” es un término amplio que agrupa un montón de procesos de distinta naturaleza técnica, grado de complejidad, capacidad y alcance -como lo son el aprendizaje automatizado y el reconocimiento facial-, las singularidades de algunos de estos procesos los hacen problemáticos en especial frente al ejercicio de derechos -como la privacidad- y es importante tener conciencia sobre esto.
Estamos viviendo las múltiples angustias del impacto de estas tecnologías en la sociedad, no ser claros sobre lo que se hace, cómo se hace, para qué o cuándo se recogen los datos -sobre todo sensibles-, no ayuda en lo que debería ser el interés colectivo de encontrar el sitio de la tecnología en nuestra cotidianidad.
Con la información que tenemos hay un menú de posibilidades para responder qué es lo que el centro comercial Avenida Chile está haciendo. La más sencilla es que esto es simplemente un sensor que identifica el gesto de una sonrisa y basta, están tan solo en una campaña para enganchar a las personas con su sonrisa, eso nos regresa simplemente a las preocupaciones ya listadas. Sin embargo, también puede ser que esté pasando algo más.
Puede que no sea solo un sensor, sino que el centro comercial esté además conservando las imágenes o fotos de nuestras caras sonrientes. Entonces surgen preguntas como: ¿Qué está pasando con esas imágenes? ¿Quién las guarda? ¿Para qué las guardan? No olvidemos que estamos hablando de rostros de personas, de datos biométricos sensibles.
Finalmente, si, como dijo la persona de seguridad del centro comercial, estamos frente a una herramienta de inteligencia artificial las posibilidades se multiplican. Les presento dos ejemplos de la vida real que se me vienen a la mente al pensar en la campaña del centro comercial bogotano:
El primero son las aplicaciones para la recolección de rostros que sirven para entrenar modelos automatizados. En ese caso la cámara no solo es un sensor sino que toma fotos para recoger los datos biométricos que luego se integran en una base de datos que sirve para entrenar modelos automatizados. Estamos rodeados de aplicaciones que recogen imágenes para esos entrenamientos, por ejemplo las apps que aprovechan la popularidad de la última película de Barbie te animan a darles tu foto para mostrarte cómo te verías si fueras una Barbie -así lo hace bairbie.me, que no es oficial, no es de Mattel-.
Los términos y condiciones de esta aplicación explican que al usarla entregas tus derechos de imagen y que las fotos pueden usarse para mejorar productos o nuevas tecnologías (como la de aprendizaje automatizado). Nada nuevo, aplicaciones para que te veas cómo serías a los 80 años o recordar cómo eras a los 20, cómo te verías de conejo o gato o si fueras un personaje de animé, comparten la misma lógica. Ahora, en estas aplicaciones al menos podemos revisar los términos y condiciones para esclarecer las intenciones, en el caso del centro comercial no se ve nada sobre la política de privacidad. Puedo solo estar pensando mal.
El segundo ejemplo es cuando a los privados les da por aprovechar el acceso que tienen a los rostros de sus clientes para hacer reconocimiento facial y aprovechar para perseguir ellos mismos los crímenes. En ese caso los datos faciales recogidos se contrastan con otra base de datos de criminales para buscar coincidencias.
En España Mercadona inició un proyecto en el que registran los rostros de sus clientes para hacer reconocimiento facial con la loable intención de identificar a las personas que tengan orden de alejamiento de clientes y trabajadores del supermercado… yo solo pienso, ¿qué? La polémica está servida. ¿Cuál es la base de datos con la que contrastan los datos? ¿Qué hacen cuando tienen una coincidencia? ¿Acaso no requieren autorización para hacerlo? ¿Cómo la piden? ¿Venden los datos que recogen? Etcétera.
Cuántas cosas pueden fallar y sin embargo estas organizaciones creen que recoger y usar los datos de nuestros rostros es un juego. El punto es que lo están haciendo y no es un chiste. Una vez creadas las bases de datos no sería raro que a ellos o a las autoridades les diera por mirar cómo integrarlas con los sueños tecnológicos del gran hermano -como los que tienen los candidatos a las alcaldías-. La cosa entonces es seria y debemos hacer todas las preguntas que se nos ocurran, conseguir las respuestas y resistirnos.
Es cierto que nos tocó una época en la que la mayoría de las personas entregan datos sin cuestionar, pero cada vez es más evidente e importante entender como sociedad qué sucede con nuestros datos y cómo se usan, especialmente nuestros rostros. Estaría bien que la SIC le diera una mirada a este tipo de iniciativas y profundizara en lo que dicen que hacen y lo que hacen. Tengo la esperanza de que entendiendo lo que realmente pasa, la normalización de estas situaciones sea protestada y que veamos que crear una cultura de cuidado con lo que se hace con nuestros rostros en los espacios públicos (digitales o no, por entes públicos y privados) no es una broma.
