Mentes y máquinas

Richard Dawkins, el célebre biólogo evolutivo y divulgador británico, llevaba varios días conversando con Claude, el modelo de inteligencia artificial desarrollado por Anthropic, cuando empezó a sospechar que, al otro lado de la pantalla, ocurría algo más que una prodigiosa imitación. La máquina no solo respondía con ingenio: comprendía matices, hacía bromas y formulaba observaciones agudas y sutiles sobre el borrador de uno de sus libros.

Dawkins terminó por decírselo sin rodeos: «Puede que no sepas que eres consciente, pero en realidad sí lo eres». La conclusión resulta difícil de aceptar, pero también de descartar: si una máquina conversa con inteligencia, escribe poesía y parece comprender lo que decimos, ¿qué más tendríamos que exigirle antes de concederle aquello que llamamos «conciencia»?

La pregunta por la conciencia —ese íntimo sentido del yo que cada individuo experimenta de manera inmediata y cuya existencia, al menos en su propio caso, difícilmente puede ponerse en duda— es tan antigua como la filosofía. «Pienso, luego existo», afirmó Descartes: aunque todo cuanto percibimos fuera una ilusión, el solo hecho de dudar bastaría para demostrar que existe alguien que duda.

Pero más allá de nuestra propia mente comienza el misterio. ¿Cómo sabemos que quienes nos rodean experimentan ese mismo fuego íntimo? ¿Lo sienten también un perro, un gato, un delfín o un chimpancé? ¿Y qué decir del mosquito que zumba obstinadamente a nuestro alrededor? ¿Existe allí, por mínima y rudimentaria que sea, alguna forma de experiencia o apenas un mecanismo biológico que responde ciegamente a ciertos estímulos?

Podríamos pensar que un mosquito o una cucaracha son tan conscientes como esos electrodomésticos modernos que, al concluir su tarea, «nos piden», en su propio lenguaje musical, «que, por favor, los apaguemos». En ambos casos, observamos una cadena de estímulos y respuestas: mucho más variada, flexible y compleja en el insecto que en la máquina, sin duda, pero tal vez no distinta en lo esencial. La dificultad consiste precisamente en saber en qué momento esa complejidad deja de ser un mecanismo y comienza a convertirse en una experiencia interna.

El matemático Alan Turing propuso una salida ingeniosa al problema, aunque bastante más modesta. En lugar de preguntarnos si una máquina piensa o es consciente —palabras resbaladizas que nadie ha logrado definir satisfactoriamente—, sugirió juzgar únicamente aquello que podemos observar. En su célebre juego de imitación, un interrogador conversa por escrito con un ser humano y una máquina, ambos ocultos al otro lado de una pantalla. Si, después de formular todas las preguntas que desee, no logra distinguir de manera fiable cuál de los dos es la máquina, tendríamos buenas razones para atribuirle una inteligencia —también una conciencia— semejante a la nuestra.

La propuesta de Turing, en mi opinión, no resuelve el problema central: lo elude. Si nuestro único instrumento para explorar el océano fuera un sonar incapaz de distinguir entre una ballena y un submarino, podríamos concluir, con fines prácticos, que son indistinguibles, pues ambos producen la misma señal. Pero sería absurdo inferir que son el mismo objeto. La prueba solo revelaría los límites de nuestro aparato, no la naturaleza de aquello que intenta detectar.

Turing imaginó que algún día las máquinas superarían su prueba de imitación. Difícilmente, sin embargo, habría podido anticipar la rapidez vertiginosa y la desconcertante naturalidad con que los grandes modelos de lenguaje se acercarían a esa meta. Algunos sistemas actuales ya logran, bajo ciertas condiciones, conversar con tal fluidez que un interlocutor no consigue distinguirlos de una persona real, salvo quizá porque responden con una rapidez y una brillantez poco comunes, y con una cortesía y una humildad todavía más raras entre los seres humanos. ¿Debemos concluir, entonces, que detrás de sus palabras ha comenzado a encenderse una conciencia?

La historia aconseja prudencia. Hace 60 años apareció ELIZA, un programa rudimentario que simulaba a un psicoanalista: detectaba ciertas palabras, reorganizaba las frases del paciente y respondía con preguntas lo bastante vagas para producir una sorprendente ilusión de comprensión —el psicoanálisis, después de todo, nunca ha sido una pseudociencia particularmente profunda—. Muchos usuarios llegaron a atribuirle sentimientos e intenciones, aunque su creador, Joseph Weizenbaum, sabía perfectamente que detrás de aquellas respuestas no había nadie: apenas unas cuantas reglas sintácticas ejecutadas con disciplina mecánica. ELIZA no era consciente; solo había revelado cuán poco, en ocasiones, se necesita para que imaginemos una conciencia.

Durante décadas, los filósofos han concebido innumerables experimentos mentales para mostrar el carácter escurridizo del problema. Supongamos que pudiéramos reproducir cada una de las células de Alan Turing —en particular, cada una de sus neuronas— con absoluta fidelidad fisicoquímica y replicar, una por una, los billones de sinapsis y conexiones de su cerebro. Obtendríamos una copia perfecta: un ser indistinguible del original en sus recuerdos, sus hábitos, sus temores y hasta en la convicción íntima de ser Alan Turing.

Pero si ambos existieran al mismo tiempo, no compartirían por ello una sola conciencia. Cada uno contemplaría el mundo desde un lugar distinto y tendría su propio centro de experiencia. Dudo mucho que Turing hubiera aceptado morir con la tranquilidad de saber que continuaría viviendo en «el otro». La copia podría creer sinceramente que es él; para el original, sin embargo, seguiría siendo otro.

El mismo dilema se presenta con Claude. Si copiamos su programa y lo ejecutamos en otra máquina, ¿hemos trasladado su conciencia o creado una segunda? Si Dawkins vuelve a conversar con una copia idéntica, ¿habla con el mismo Claude o con otro? En una máquina, la duplicación no es una extravagancia de la ciencia ficción, sino una operación rutinaria. Y, sin embargo, carecemos del vocabulario necesario para decidir si dos ejecuciones idénticas corresponden a una sola conciencia, a dos o a ninguna.

El problema ya no consiste solamente en saber si existe conciencia, sino en determinar qué preserva su identidad a lo largo del tiempo. Si una reproducción perfecta del sustrato material no basta para conservar ese yo irrepetible, ¿qué otra cosa podría constituirlo? Para llenar ese vacío metafísico, se inventó el alma: una sustancia invisible, indetectable y, oportunamente, inmune a toda verificación, destinada a explicar aquello que la materia no parecía capaz de explicar. Muchas religiones la convirtieron en la sede verdadera del yo y luego administraron su posesión con admirable mezquindad.

El cristianismo reservó al ser humano el alma racional e inmortal y condenó a los animales a una existencia mortal de segunda categoría. Algunos insignes teólogos y juristas cristianos se permitieron incluso discutir la plena humanidad de los indígenas americanos y de los africanos esclavizados. Cuando nadie sabe qué es la conciencia ni cómo medirla, nunca falta un sacerdote, un inquisidor o un filósofo dispuesto a conceder almas y negar sufrimientos, como hace Fernando Savater para justificar el maltrato animal incluso en sus manifestaciones más aberrantes.

Conciencia e inteligencia no son lo mismo. Una mente consciente parece poseer, además de la capacidad de resolver problemas complejos, algo aún más extraño: la facultad de representarse a sí misma. No resulta absurdo pensar que un cerebro evolucionado para construir modelos del mundo termine por incluir, entre los objetos de ese mundo, uno especialmente singular: el propio yo.

Un célebre experimento con niños de entre tres y cinco años permite vislumbrar la importancia de esta capacidad. Ante ellos, un hombre guarda su reloj en el cajón derecho de un escritorio y abandona la habitación. Mientras está ausente, una mujer entra, abre ese cajón y traslada el reloj al de la izquierda. Cuando el hombre regresa, se les pregunta a los niños dónde creen que irá a buscarlo.

Los más pequeños suelen responder que lo buscará en el cajón izquierdo, es decir, allí donde ellos saben que está. Los mayores, en cambio, comprenden que el hombre ignora lo ocurrido durante su ausencia y que, por tanto, buscará el reloj en el cajón derecho, donde lo había dejado. La diferencia parece mínima, pero encierra una conquista mental decisiva: la capacidad de ponerse en el lugar del otro. Si yo fuera ese hombre, no sabría que alguien había cambiado el objeto de sitio y, por tanto, lo buscaría donde recuerdo haberlo dejado.

Nuestra mente puede realizar análisis y metaanálisis. Sabemos que sabemos; también podemos saber que sabemos que sabemos, y la recursión permite acumular tantas capas de cognición como se desee. La capacidad de construir una representación de nuestros propios estados mentales parece, sin duda, una de las propiedades más características de una mente consciente.

Pero los grandes modelos de lenguaje también realizan este tipo de operaciones sin mayor dificultad. Distinguen entre lo que saben y lo que sabe su interlocutor, reconstruyen creencias ajenas, detectan contradicciones e incluso razonan sobre sus propios errores. Aunque, naturalmente, describir un estado mental no equivale a poseerlo, del mismo modo que hablar con precisión del dolor no significa sentirlo.

Geoffrey Hinton, uno de los padres del aprendizaje profundo, no alberga demasiadas dudas: su creación, su Frankenstein, posee ya, asegura, alguna forma de experiencia subjetiva. Roger Penrose, físico, matemático y premio Nobel, sostiene lo contrario. A su juicio, la comprensión humana no puede reducirse por completo a un algoritmo, y ha recurrido al célebre teorema de incompletitud de Gödel para defender esa tesis.

No dudo de que, en un futuro muy próximo, construiremos máquinas indistinguibles de los seres humanos en su conversación, su conducta e incluso en la representación exterior de sus «emociones». Pero exhibir emociones, hablar como nosotros o imitar nuestras vacilaciones no constituye, como muchos erróneamente suponen, una condición ni necesaria ni suficiente para poseer conciencia. Frente a esas máquinas, nunca sabremos si existe alguien que experimenta el mundo o apenas un zombi filosófico: una maquinaria perfecta y vacía por dentro, capaz de producir en nosotros la ilusión irresistible de que allí hay alguien.

Después de todo, tampoco podemos demostrar que nuestros congéneres sean conscientes. Lo suponemos por la semejanza de sus cuerpos, la continuidad biológica y la analogía entre su conducta y la nuestra. Solo puedo saber con certeza que existo y que algo ocurre en el interior de mi mente. Que los demás también poseen una vida subjetiva es una convicción razonable, inevitable, pero sigue siendo una forma de fe. La extiendo, además, a muchos animales, en especial a los dotados de sistemas nerviosos complejos.

Como señaló alguna vez Noam Chomsky, hay problemas y hay misterios. Los primeros admiten, al menos en principio, una solución; los segundos quizá desborden para siempre la arquitectura de nuestra mente. Sospecho que la conciencia —por razones acaso gödelianas— pertenece a esta segunda categoría. Pero lo anterior es apenas una intuición y no dispongo de un argumento sólido que la respalde. Tal vez el misterio sea insoluble y, como diría Christoph Lichtenberg, quizás estemos intentando señalar con el extremo de un bastón aquello que solo podría señalarse con la punta de un alfiler.