Si le preguntamos a ChatGPT: ¿La inteligencia artificial (IA) tiene sesgos? La respuesta es afirmativa y nos sugiere: “Es fundamental abordar estos problemas para garantizar que la IA sea justa, equitativa y respetuosa con todos los grupos raciales y étnicos”. Y es aquí donde la IA nos cuestiona como Estado y como sociedad ¿Qué estamos haciendo para que esta reduzca la reproducción de estereotipos hacia las personas afrodescendientes, indígenas o LGTBIQ+?
En medio del revuelo por el estreno de la película Barbie, un tuitero le pidió a MidJourney (herramienta de inteligencia artificial) que ilustrara cómo sería la Barbie de cada región de Colombia, arrojando como resultado ilustraciones lejanas a cómo realmente son las mujeres del país. Según esta herramienta de la IA, la mayoría de mujeres colombianas tienen el cabello liso o alisado, facciones y tonos de piel blanqueados y cuerpos delgados. No podría haber entonces una Barbie negra con el cabello afro o con facciones de alguno de los 115 pueblos indígenas, según esta ilustradora artificial.
Muchos dirán, a ver, es la Barbie, el fiel reflejo de los estereotipos femeninos, pero es justamente esa la cuestión: seguimos alimentando la IA con datos que contienen subregistros sobre las poblaciones étnicas, sigue habiendo brechas de acceso a la tecnología y por tanto, falta de información de los territorios con baja conectividad, y, pese a que hay talento haciendo desarrollos tecnológicos como el profe Jimmy García y sus alumnos de la Escuela de Robótica de Quibdó, las decisiones sobre esta materia se siguen pensando desde el centro del país.
Ahora, hagamos un ejercicio: escribe en Bard o ChatGPT ¿cuáles son los héroes de la independencia colombiana?
En la respuesta que me dieron solo aparecieron hombres blancos como héroes. No enlistó a importantes líderes como Pedro Romero, Cecilio Rojas, José Prudencio Padilla. Tampoco hizo mención el papel de las mujeres afrodescendientes en la gesta de la independencia de Colombia. Sin embargo, recordemos que estas y las demás herramientas de la inteligencia artificial se nutren de los datos que les suministramos. Está en nuestras manos que reconozcan las historias y la diversidad, pero ¿qué debemos hacer?
A continuación planteamos algunas rutas para que podamos contribuir desde nuestro día a día para que la diversidad étnica y cultural de Colombia se refleje en la inteligencia artificial y no nos quedemos rezagados en esta materia:
- Educación especializada en IA para la niñez y las juventudes afrocolombianas e indígenas que garanticen su participación futura en el diseño, uso y solución de problemáticas a través de estas herramientas.
- Actualización de datos que incluyan la variable étnico/racial en las diferentes áreas, pasando por la historia, la salud, la educación y la cultura. Es importante que estos tengan diferenciación territorial.
- Generación de políticas públicas y articulación con el sector privado para garantizar la participación de personas de origen étnico y con enfoque de género en el desarrollo de herramientas IA.
- Articulación con la IA en medios de comunicación para exaltación y reconocimiento de referentes afrocolombianos e indígenas en las diferentes áreas para que las narrativas reflejen el país pluriétnico y multicultural que somos.
- Políticas estatales de seguimiento tendientes a disminuir los sesgos de la IA en materia étnico/racial y de género.
Las anteriores sugerencias no son un derrotero, pero sí una invitación a que como país estemos un paso adelante de los retos que nos trae esta tecnología en materia de sesgos asociados al género y a grupos poblacionales como los afrodescendientes e indígenas porque la IA llegó para quedarse. Según la última encuesta de IBM, una de cuatro empresas en Colombia está utilizando inteligencia artificial y es una tendencia que va en aumento.
Es importante que en este camino reconozcamos el trabajo que vienen realizando personas afrocolombianas como Umut Pájaro, quien desde hace unos años se ha dedicado a investigar este tema y, además, es reconocido internacionalmente por sus aportes, para que en unos años, cuando le preguntemos a estos generadores de información sobre la historia, referentes o contribuciones al país de las personas afrocolombianas e indígenas, las respuestas sean menos sesgadas y no sigan reproduciendo estereotipos.
*Periodista con experiencia en el diseño y ejecución de estrategias con enfoque diferencial en el sector público, privado y de cooperación internacional desde la comunicación, la cultura y el desarrollo. Magíster en periodismo con experiencia en diferentes medios nacionales, con énfasis en política y territorios. Ganadora de la beca del programa de liderazgo (IVLP) Edward Murrow del Departamento de Estado de Estados Unidos. Certificada en Estudios Afrolatinoamericanos del Instituto Alari de la Universidad de Harvard. Actualmente estudiante de la especialización en Estudios Afrolatinoamericanos y del Caribe de la Clacso.