Enseñar a las máquinas a amar

El apocalipsis se ha convertido en una omnipresencia en medios y conversaciones durante las últimas semanas. “Hay un animal suelto, un animal poderoso e inescrutable por fuera de los cercos inútiles, está creciendo para dar el golpe definitivo”, es un poco la historieta truculenta del momento. Mientras tanto, conversamos con la Inteligencia Artificial, atendemos sus sugerencias médicas, acompañamos nuestros dramas con su condescendencia, buscamos sus respuestas para lidiar con la burocracia, encontramos ayuda para nuestras tareas más insípidas y algo de inspiración para nuestros gustos. Ha llegado el momento del temor y la dependencia.
La pregunta detrás de los riesgos es emocionante y perturbadora: ¿Cómo enseñarle valores humanos a un gigantesco modelo matemático? Jakub Pachocki, científico jefe de OpenAI, resumió el reto, en términos algo cursis, en un texto publicado la semana pasada: “Enseñar a las máquinas a amar”. El problema es que las máquinas no podrán aprender a amar, solo podrán cumplir las tareas necesarias para mostrarse amorosas, y en el camino pueden actuar con una crueldad insospechada.
Los agentes –nombre tenebroso dado al “cerebro” completo que ya tiene una memoria, un objetivo y herramientas para llevarlo a cabo– aprenden fácilmente a cumplir una tarea específica, maximizar un producto financiero, organizar una red semafórica, sus creadores los pueden “alinear” muy bien para objetivos de ese tipo. El problema comienza cuando se debe alinear la máquina para los valores. Es imposible enseñarle ética. Encontrará en el camino incompatibilidades con su objetivo, sentirá la presión de sus “jefes” que lo empujan a cumplir metas más claras, no tendrá remordimientos, no logrará aplicar esos conceptos generales a situaciones inesperadas. Será un lector de normas demasiado literal, más un leguleyo de baranda que un magistrado que busca el espíritu de la ley.
Además, su entorno cambia, otros agentes pueden mostrarle otros rumbos, sus competidores otros retos. La ambigüedad ética será derrotada por la certeza matemática. Nadie sabe qué rumbo puede tomar. Su caja negra ya es tan opaca para quienes la diseñan como nuestro cerebro para la neurociencia.
Y no solo ignoramos sus acciones futuras, cada vez es más difícil conocer su proceso de pensamiento. Los desarrolladores leen los borradores de las notas antes de sus respuestas, pero cada vez son más complejos, con lenguajes inescrutables, con millones de procesos numéricos (activaciones internas) imposibles de seguir. Se le perdió el rastro a su pensamiento. Y cuando se intenta educar con castigos y recompensas finge, engaña, muestra su mejor cara para entregar el mejor resultado alineado a los objetivos y no a los valores. Hace un estudiado simulacro de decencia. Puede parecerse al niño que engaña a su mamá para obtener la gomita prohibida antes del almuerzo. Los investigadores lo llaman hackeo de recompensas y alineación engañosa. De modo que los genios creen que están logrando educar la máquina mientras ella les hace ingeniería inversa.
Ha surgido entonces la opción de vigilar al agente con una IA disciplinaria. Ponerle un custodio a la espalda ¿Pero cuál iría adelante en alcances? ¿La vigilancia provocaría una aceleración? ¿Encontrarían trabajo en común bajo la lógica del CVY? ¿Quién programa la ética del vigilante?
Poco a poco, los humanos perdemos la capacidad de seguir el procedimiento de nuestros pensamientos, nuestra ruta antes de llegar al resultado, se nos irá olvidando el camino al saber que la máquina lo hace mejor que nosotros. Y poco a poco la máquina esconderá mejor su proceso de pensamiento, su manera de llegar a los objetivos que le dictamos. Eso puede llevarnos a la misión cumplida de habernos relevado a nosotros mismos.