Nuestra semántica y la IA: parte 2 (Sobrepensadores)

Anthropic es la compañía que creó la inteligencia artificial Claude.

Foto: EFE - Angel Colmenares

Planteaba en la entrega anterior de Sobrepensadores una serie de preguntas filosóficas que surgían en torno a la IA, como si los sistemas basados en lo que llamamos LLMs (modelos de lenguaje) en realidad piensan o si más bien actúan como si pensaran, si ello importa, si tienen un campo semántico comparable al nuestro…íntimo. Nos preguntábamos por la conciencia y por su rol en la interacción con el mundo.

Pero no son las únicas dudas que me asaltan. Comencemos con el error. ¿Hay, como bien decía Nietzsche, un valor en lo erróneo? Los resultados de la IA parecen inapelables, sus análisis de un alcance mucho mayor que los nuestros, parecen “verdaderos”. Lo pregunto sin orgullo de homo sapiens herido: ¿hay un valor en el error… en nuestros errores? ¿Lo erróneo enseña, abre caminos o es una etapa de la experiencia humana que poco a poco vamos minimizando? ¿Es deseable eliminar todo error?

La IA no es infalible, lo sé. Pero no es desatinado pensar que llegará un momento en el que minimizará sus delirios y desaciertos. Para Nietzsche, la “verdad” no es más que una ilusión que se nos olvidó que lo era. Nosotros nos movemos más bien en claroscuros de lo erróneo y del acierto, tanteando en la oscuridad. El conocimiento, decía Kant, es una diminuta isla en un enorme océano de ignorancia. ¿Hemos descubierto con la IA una forma de navegación fiable? ¿Las aventuras intelectuales del futuro —si se las puede llamar así— nos incluirán? ¿Luego de la IA, nuestro conocimiento seguirá siendo una búsqueda popperiana en el sentido de avanzar por ensayo y error? En efecto, puede uno considerar que el conocimiento humano se ha construido hasta ahora bajo la paciente labor de probar lo que funciona, lo que no, siempre regresando a la mesa de dibujo.

Considérese por ejemplo el método socrático de generación de conocimiento. Se trata del paciente ejercicio de entrar en un diálogo con el otro con la esperanza de encontrar un término común de entendimiento para ascender en la comprensión de un concepto. En efecto, Sócrates iba por ahí importunando a los atenienses con preguntas. Cuando los interlocutores coincidían en lo que era la justicia o el bien por ejemplo, se había llegado a un estrato que no era aleatorio, estábamos hablando de algo recordado por ambos en el sentido de la reminiscencia platónica.

No defiendo acá el pensamiento platónico. Pero sí sus métodos. Nuestros tanteos con el saber han estado marcados por un lento y paciente ejercicio tinturado por la búsqueda, la imperfección, la incertidumbre y por un ir y venir. Los humanos, requerimos de lo que la filosofía ha llamado dialéctica, un juego de preguntas y respuestas para llegar a acuerdos no forzados. No tenemos otra forma de producir conocimiento. ¿Todo ello ha cambiado con la IA? Al parecer las máquinas no necesitan debatir; hasta donde sé no hay algo semejante a una conversación entre sistemas a la hora de llegar a una conclusión. ¿Estamos ante la muerte de este tipo de diálogo que conocemos desde que comenzamos a hablar?

Y si nos atenemos al lenguaje, como lo señalábamos en el párrafo anterior, que es el terreno en donde se mueve la IA, ¿no caerá ella eventualmente en sus ambigüedades inescapables? El lenguaje, decía Wittgenstein no es un medio transparente; de hecho tiene la capacidad de exponernos a los problemas filosóficos. Si no tuviéramos un verbo “ser” que tiene una forma infinitiva, sustantiva, como cuando decimos “El Ser”, no hubieran surgido la gran mayoría de los problemas filosóficos. El lenguaje con toda su capacidad de llevarnos a las paradojas, ¿cómo exhibe al tiempo la flexibilidad y la rigidez para que un sistema algorítmico replique el pensar sin ambigüedad?

El lenguaje decía el Alexander Von Humboldt «(…) no es una obra acabada —érgon—, sino una actividad —enérgeia—. Por eso su verdadera definición sólo puede ser una definición genética. El lenguaje es el trabajo eternamente renovado en el que el espíritu hace al sonido articulado capaz de expresar el pensamiento». El lenguaje se analiza desde el sonido, desde la voz. Pero, al tiempo, es un mundo en sentido propio; actividad, energía y no pensamiento transmutado en materia inerte. ¿Todo esto es falso? ¿El lenguaje como lo usa la IA podría devenir actividad, o sólo adquiere pleno sentido cuando entra en contacto con nosotros? ¿Detrás de la IA nos asomamos nosotros o eventualmente no requerirá ni siquiera nuestra atención?

La atención es un tema central en todo este asunto de pensar el pensamiento humano frente a la IA. Todo cambio tecnológico ha traído consigo la comodificación de nuestro cuerpo: la capacidad de taller pedernales comodificó la mano, la revolución industrial dispuso el cuerpo para la línea de producción. La tecnología de la IA ha comodificado la atención. Podemos producir series enteras sin un solo actor real diseñadas para el “Binge-Watching”, como los microdramas de la India, producciones de cincuenta episodios que no duran más de 2 minutos por capítulo, hechas para generar atención cautiva, inmersa. El sistema se nutre de esa atención, pero al tiempo está interesado en nosotros porque su sustrato básico son los datos, la información que sustrae de nuestra privacidad.

En China, la industria de la vigilancia y del monitoreo dio un paso enorme durante la pandemia, posibilitando las amplias redes de datos que alimentan el internet y ahora los sistemas de pensamiento automatizados con nuestros gustos, nuestra historia clínica, con las preferencias políticas e ideológicas. Ya no se trata de la vigilancia de los países de la antigua Cortina de Hierro para la cual la vida privada resultaba ofensiva como se ve en las novelas de Milan Kundera. Ahora se trata de una vigilancia inescapable, invasiva para monitorear acciones que en lo personal no le importan a nadie. El disidente es sospechoso no porque se desconozca una dimensión de su actividad, sino porque no ha pagado su cuota infográfica al sistema, como bien lo retrata la distopía orweliana del filme contemporáneo “2073”.

Pero no hace falta alimentar el “apocaliptismo” tan profusamente divulgado por personas como Elon Musk, quien ha afirmado que la IA nos conservará como su mascota… si tenemos suerte. La pregunta por el futuro, sin embargo, a mi modo de ver, ha de plantearse de cara a nuestra relación con el conocimiento. ¿Cómo será el futuro, no tanto de nuestro trabajo o de la vigilancia, sino de nuestro deseo de saber? ¿Nos seguiremos entregando a las grandes aventuras intelectuales la escritura de la novela capaz de totalizar la experiencia humana, al deseo de hacer un mapa del genoma, a desentrañar los misterios de universo cuántico—, en pocas palabras, al saber profundo, o este se convertirá en una suerte de gimnasio mental para que nuestro cerebro no se clausure? ¿Sentiremos deseos de emprender esos viajes del conocimiento cuando hay sistemas que hacen en minutos lo que nosotros hacemos en años? ¿Seguiremos cultivando esa búsqueda sin término que es el conocimiento, como la llamó Karl Popper, o comienza este a llegar a su fin como otros dominios y saberes humanos que ahora cultivamos como artes excéntricas del pasado? Sólo el tiempo lo dirá.

Le sugerimos: Filosofía y academia: la urgente necesidad de una renovación educativa (Sobrepensadores)