Idena y Worldcoin, la ilusión de la identidad digital igualitaria

Idena fue un protocolo de blockchain lanzado en 2019 para crear un sistema igualitario a partir de una prueba de individualidad humana (traducción personal del inglés “proof of personhood”). Idena quería establecer identidades humanas únicas para garantizar la gobernanza democrática (una persona, un voto) y la distribución de la renta básica universal (una persona, un pago). Era un experimento con una gran idea contra el fraude. Les daño el final: no funcionó. ¿Entonces por qué sí lo haría Worldcoin?

Idena fue un experimento que se describe y analiza en el artículo académico “Compressed to 0: The Silent Strings of Proof of Personhood”. El artículo indica que, a pesar de sus buenas intenciones, Idena enfrentó problemas importantes con la aparición de “titiriteros” que controlaban múltiples cuentas pagando a los participantes pequeñas sumas para verificar periódicamente su singularidad. En el artículo se explica que aunque se diseñaron mecanismos de validación y pruebas para separar a los humanos de los robots, los incentivos económicos llevaron a una dinámica social en la que unas pocas personas podían explotar el sistema controlando a los participantes menos informados.

“Incluso si se verifican biológicamente, las personas no son las mismas en términos de información. Como demostró el experimento de Idena, cuando se les presentan incentivos económicos para diferenciarse de los robots, las personas también tienen incentivos para alinear y controlar a los menos informados, como a robots programables. Los grupos se unen y coordinan rápidamente para su ventaja para obtener más control y recompensas económicas, socavando los objetivos igualitarios con una tendencia hacia el oligopolio”.

Sí, esto es un superresumen de algo muy complejo, ¿pero les suena a algo que han oído recientemente? Vayamos a 2023 cuando la noticia en tecnología era que Worldcoin -cocreada por Sam Altman, el mismo de OpenAI, la empresa detrás de ChatGPT- lanzaba una criptomoneda que utilizaba un dispositivo biométrico llamado Orb para verificar la identidad humana y distinguir a las personas de los robots que usaban la inteligencia artificial (IA). Orb escanea los iris de las personas para asegurarse de que sean seres humanos únicos y crea una red de identidad global para preservar la privacidad, decían.

Es decir, la noticia era que un gurú de la IA nos afirmaba que cuenta con la tecnología para que enfrentemos un gran temor -fundado, eso sí- que tenemos con la llegada de la IA: la suplantación. Adicionalmente, la empresa y los medios nos recuerdan que la suplantación es un grave problema para nuestras sociedades en dos temas: la distribución justa de los recursos y los procesos democráticos globales. De nuevo, ¿les suena de algo?

Ahora, vayamos a mayo de 2024. El ministro TIC colombiano nos cuenta que se reunió con el equipo de Tools For Humanity (THF) -¡empresa de… Sam Altman!- “para conocer más sobre el dispositivo Orb, una tecnología que entrará al mercado colombiano próximamente y que permitirá la identificación digital y el registro de personas a través de su iris”. Lizcano agrega con una ilusión casi infantil: “Este (dispositivo) busca diferenciar entre humanos e inteligencia artificial, protegiendo datos y evitando fraudes en entornos digitales”.

El respaldo ministerial garantizó el eco mediático y varios medios publicaron notas al respecto, incluso resaltando importantes críticas al sistema. Pero sobre todo tuvo un importante pie a tierra, aunque hasta ahora inoperante: entró en “vigilancia preventiva” por parte de la Superintendencia de Industria y Comercio (SIC). La SIC lo justifica porque la empresa está bajo investigación en varios países y prohibida en otros más. Extrañamente, el escueto comunicado termina pidiendo que las personas se informen antes de entregar datos del iris porque, dice, la empresa no demuestra ni técnica ni científicamente que Orb no recoja datos sensibles, cuando la misma SIC ha dicho que los datos del iris lo son.

Un mes después, en las 10 oficinas (entre Bogotá y Medellín) hay filas de personas dispuestas a entregar sus datos biométricos de iris a cambio de recompensas en Worldcoin (por registrarse, pagos periódicos por llevar a otras personas e incluso ofrecen acceso a financiación). A juzgar por las filas, los incentivos que ofrecen son atractivos, pero no quiero hacer cálculos pues no me interesa promocionar su uso.

De lo que más se habla es de lo que la SIC dijo: si la tecnología es segura, si la empresa puede proteger los datos, si realmente no guarda datos sensibles. Toda una polémica. Mientras creamos que nuestro nombre, edad o dirección es lo que hay que proteger como dato sensible, dejamos de lado que los datos biométricos son datos sensibles y esto incluye los unos y ceros en los que se transforma la imagen del iris que captura Worldcoin. Hoy da igual que borren la imagen que toman del iris si conservan el mapa biométrico. La aparente falta de claridad sobre el alcance en Colombia, ya se los he dicho, tiene como protagonista al propio Estado, a la Registraduría. Pero, además, ¿cuándo hablamos del experimento?

Y de allí se deriva otra pregunta: ¿por qué lanzan esto en Colombia? En El Colombiano se informa que un funcionario de TFH les explicó que “Colombia es un mercado estratégico debido a la alta adopción de tecnologías biométricas”. Esto lo respalda con datos de una encuesta que hicieron junto a Cifras y Conceptos: el 70 % de las personas en Colombia ya usan biometría para acceder a diversas aplicaciones tecnológicas y sin embargo el 62 % ha sido víctima o conoce a alguien que ha sufrido fraude o suplantación. La combinación perfecta: hay una alta predisposición a usar tecnologías biométricas y mucho temor a la suplantación y el fraude. De esto también les había hablado antes.

Entonces, no es que todo sea nuevo, es que la IA lo complejiza. Creo que regular la inteligencia artificial como un todo es una aventura arriesgada, pero eso no significa que no haya que regular nada. Hay que romper la complejidad y abordar los problemas por partes. Estamos en mora de regular la identidad digital, el rol del Estado y enfrentar que el ecosistema que tenemos ha favorecido un escenario en el que se facilitará que se aprovechen de las personas menos informadas. ¿Será Worldcoin el experimento que lo pruebe? Por ahora, aunque con expectativas limitadas, esperemos a ver qué hace la SIC.

Retomando el análisis de Idena, aunque tener sistemas de identidad descentralizados es genial, deben enfrentar en la práctica las asimetrías económico-sociales. Si queremos tener tecnologías para enfrentar problemas sociales complejos -como la suplantación en la gobernanza democrática y en la distribución de una renta básica universal-, se necesitan mecanismos más sofisticados que involucren lo social, que garanticen una verdadera resistencia a la confusión y a la conspiración, que mantengan la integridad y la equidad de los sistemas. ¡Necesitamos más personas dedicadas a las ciencias sociales involucradas y trabajando con quienes desarrollan la tecnología! Al final podríamos empezar con preguntas como las que surgen del dilema de permitir pagar por la donación de sangre o no.