Un grupo de filósofos y de científicos informáticos señalan, en un artículo publicado en el repositorio arXiv, que es posible que algunos sistemas de Inteligencia Artificial (IA) lleguen a ser conscientes y/o que tengan algún tipo de agencia en el futuro cercano.
“Esto significa que la perspectiva del bienestar de la IA y la condición de paciente moral, es decir, de sistemas de IA con sus propios intereses y significado moral, ya no sería un problema exclusivo de la ciencia ficción o del futuro lejano”, afirman en la publicación.
Le puede interesar: Hallan una pirámide que podría tener 1.300 años durante la construcción de una vía
Es por ello que los investigadores hacen un llamado a las empresas de IA a que, además de evaluar sus sistemas para buscar evidencia de consciencia y la capacidad de que tomen decisiones autónomas, también definan políticas y procedimientos para que, en dado caso, se empiecen a “tratar a los sistemas de IA con un nivel apropiado de preocupación moral”.
A propósito, Kyle Fish, uno de los autores del informe, recientemente fue contratado como investigador de bienestar de la IA por la empresa de IA Anthropic, en San Francisco, California. Según los científicos, se trata del primer cargo de este tipo designado en una empresa de IA de primer nivel.
Lea también: Los científicos que están llevando la astronomía a los colegios más alejados del país
De acuerdo con la revista Nature, este tema ha generado opiniones divididas. Hay quienes se mantienen escépticos ante el escenario, aunque no descartan la idea de generar planes para abordarlo. Por ejemplo, Anil Seth, un investigador de la consciencia en la Universidad de Sussex en Brighton, Reino Unido, plantea que, la IA consciente puede estar muy lejos o ni siquiera llegar a consolidarse.
Sin embargo, a sus ojos “las implicaciones de su surgimiento son lo suficientemente tectónicas como para que no debamos ignorar la posibilidad”, según escribió hace un tiempo en la revista Nautilus.
De manera similar, el matemático de Oxford, Jonathan Mason, sugiere que los riesgos aumentan a medida que los seres humanos dependemos cada vez más de estas tecnologías. Para Mason, se debe priorizar el desarrollo de métodos que evalúen la posible emergente consciencia de la IA. “No sería sensato que la sociedad invirtiera tanto en algo y se volviera tan dependiente de eso sobre lo que sabemos tan poco, y que ni siquiera nos diéramos cuenta de que tenía percepción”, cita Nature al académico.
Le puede interesar: Los detalles de cómo se fabricó el disco celeste de Nebra, Patrimonio de la Humanidad
Jeff Sebo, filósofo de la Universidad de Nueva York y coautor del artículo de arXiv, ha sugerido que, si no se determina de manera adecuada si la IA tiene consciencia, las personas se podrían ver afectadas. ¿La razón? Podrían destinarse fondos de “asistencia social” hacia estas tecnologías, lo que implicaría una reducción para las personas o animales que los requieren.
En ese sentido, dice Sebo, algunos científicos ya han publicado una lista de verificación de criterios que serviría para identificar sistemas que tengan una gran probabilidad de ser conscientes. “Incluso un marco inicial imperfecto puede ser mejor que el statu quo”, aseguró Sebo.
Lea también: Estos son los diez científicos más influyentes del 2024, según la revista Nature
Pero por otro lado, hay sectores que no han dado la misma atención al tema. En septiembre, por ejemplo, el Órgano Consultivo de Alto Nivel de las Naciones Unidas sobre Inteligencia Artificial publicó un informe sobre cómo el mundo debería gobernar la tecnología de la IA. Sin embargo, en el documento no se mencionó la conciencia de la IA, pese al llamado de algunos integrantes de la comunidad científica.
Nature trató de obtener declaraciones de cuatro empresas líderes en IA (OpenIA, Anthropic, Google y Microsoft) sobre sus planes para el “bienestar” de estas tecnologías. La mayoría se negó a pronunciarse y OpenIA no respondió a la solicitud.
👩🔬📄 ¿Quieres conocer las últimas noticias sobre ciencia? Te invitamos a verlas en El Espectador. 🧪🧬
