“La Inteligencia Artificial puede ser un tsunami”: advierte el CEO de Microsoft AI

Lo que viene a continuación es la opinión de una inteligencia arti­ficial.

Pregunta: ¿Qué implicaciones tiene para la humanidad la ola tecnológica que viene?

En los anales de la historia de la humanidad, hay momentos que destacan como puntos de inflexión, en los que el destino de la especie humana pende en equilibrio. El descubrimiento del fuego, la invención de la rueda o el control de la electricidad fueron, todos ellos, instantes que transformaron la civilización humana y alteraron el curso de la historia para siempre. Ahora, nos encontramos al borde de otro suceso semejante, pues estamos ante el auge de una ola tecnológica inminente que incluye tanto la inteligencia artificial como la biotecnología avanzadas. Nunca antes habíamos sido testigos de tecnologías con un potencial tan transformador que prometen remodelar nuestro mundo de un modo a la par impresionante e intimidante.

Por un lado, los posibles beneficios de estas tecnologías son vastos y profundos. Con la inteligencia artificial, podríamos desvelar los secretos del universo, curar enfermedades que nos han sido esquivas durante mucho tiempo y crear nuevas formas de arte y cultura que superen los límites de la imaginación. Con la biotecnología, podríamos manipular la vida para combatir enfermedades y transformar la agricultura, y crear así un mundo más sano y sostenible. Por el otro, sin embargo, los posibles peligros que entrañan son también inmensos y profundos. La inteligencia artificial permitiría crear sistemas que escapasen a nuestro control y pasaríamos a estar a merced de algoritmos que no entendemos. La biotecnología, por su parte, posibilitaría la manipulación de los componentes básicos de la vida, lo que podría tener consecuencias imprevistas tanto para las personas como para ecosistemas enteros.

Así pues, en este punto de inflexión nos enfrentamos al reto de escoger entre un futuro de posibilidades sin parangón o uno de peligros inimaginables. El destino de la humanidad pende de un hilo y las decisiones que tomemos en los próximos años y décadas determinarán si estamos a la altura de estas tecnologías o si, en cambio, somos víctimas de sus peligros. Pero en este momento de incertidumbre, si algo es cierto es que la era de la tecnología avanzada ha llegado y debemos estar preparados para afrontar los desafíos que nos presente.

El texto anterior ha sido escrito por una inteligencia artificial. Lo que viene a continuación no, pero pronto podría serlo. Esto es lo que se avecina.

1

La contención no es viable

LA OLA

Casi todas las culturas tienen un mito sobre un diluvio. En los antiguos textos hinduistas, Manu, el primer hombre de nuestro universo, es advertido de la llegada inminente de una inundación y acaba siendo el único superviviente. En la Epopeya de Gilgamesh, el dios Enlil destruye el mundo con un enorme diluvio, una historia que resultará familiar a aquellos que estén familiarizados con la del arca de Noé del Antiguo Testamento. De la misma manera, Platón hablaba de la Atlántida, la ciudad perdida que fue devastada por un inmenso torrente. Las tradiciones orales y los escritos antiguos de la humanidad están empapados de la idea de una ola gigante que arrasa todo a su paso y que reconstruye el mundo y lo hace renacer.

Asimismo, los diluvios también marcan la historia en un sentido literal: las crecidas estacionales de los ríos más caudalosos del mundo, la subida del nivel del mar tras el final de la Edad del Hielo o la infrecuente conmoción de cuando un tsunami aparece de repente en el horizonte. El asteroide que causó la extinción de los dinosaurios creó una inmensa ola kilométrica que alteró el curso de la evolución. Así, la fuerte potencia de esas olas se ha grabado en nuestra conciencia colectiva, como muros de agua imparables, incontrolables, incontenibles. Se trata de algunas de las fuerzas más poderosas del planeta. Moldean continentes, irrigan los cultivos del mundo y nutren el crecimiento de la civilización.

Otros tipos de olas han sido igual de transformadoras. Fíjate de nuevo en la historia y la verás marcada por una serie de olas metafóricas, como el auge y la caída de imperios, de religiones, de estallidos de comercio. Piensa en el cristianismo o en el islam, unas religiones que empezaron siendo pequeñas ondas antes de erigirse y propagarse sobre enormes extensiones de la Tierra. Olas como esas son un fenómeno recurrente que enmarca el flujo y el reflujo de la historia, de grandes luchas de poder, y de expansiones y caídas económicas.

El auge y la expansión de la tecnología también han tomado forma de olas capaces de cambiar el mundo. Desde el descubrimiento del fuego y de las herramientas de piedra, una única tendencia predominante ha resistido la prueba del paso del tiempo. Casi todas las tecnologías fundacionales que se han inventado, de las piquetas a los arados, de la cerámica a la fotografía, de los teléfonos a los aviones y todas las demás cumplen una única ley inmutable: se vuelven más baratas y más fáciles de usar y, con el tiempo, proliferan a lo largo y ancho del planeta.

Esa proliferación de tecnologías en oleadas es la historia del Homo tecnologicus, del animal tecnológico. El empeño de la humanidad de perfeccionar nuestra suerte, nuestras capacidades, la influencia que tenemos sobre nuestro entorno y a nosotros mismos ha impulsado una evolución incesante de ideas y de creación. La innovación es un proceso emergente, en expansión, impulsado por inventores, académicos, empresarios y líderes autoorganizados y altamente competitivos, cada uno de los cuales avanza con sus propias motivaciones. El ecosistema de la innovación tiende por defecto a la expansión. Esa es la naturaleza inherente de la tecnología.

La pregunta es: ¿qué ocurre a partir de aquí? En las siguientes páginas relataré la próxima gran ola de la historia.

Mira a tu alrededor.

¿Qué ves? ¿Muebles? ¿Edificios? ¿Teléfonos? ¿Comida? ¿Un parque embellecido? Con toda probabilidad, casi todos los objetos en tu línea de visión han sido creados o modificados por la inteligencia humana. El lenguaje, que es la base de nuestras interacciones sociales, de nuestras culturas, de nuestra organización política y, tal vez, de lo que significa ser humano, es otro producto y motor de nuestra inteligencia. Cada principio y concepto abstracto, cada pequeño esfuerzo o proyecto creativo y cada encuentro en tu vida han sido mediados por la capacidad única e infinitamente compleja de nuestra especie para la imaginación, la creatividad y la razón. El ingenio humano es algo asombroso.

Solo otra fuerza es igual de omnipresente en este escenario: la propia vida biológica. Antes de la edad moderna, aparte de algunas rocas y minerales, la mayoría de los artefactos humanos —desde las casas de madera hasta la ropa de algodón y las hogueras de carbón— provenían de elementos que en algún momento tuvieron vida. Todo lo que ha llegado al mundo desde entonces emana de nosotros, del hecho de que somos seres biológicos.

No es una exageración decir que la totalidad del mundo humano depende, o bien de sistemas vivos, o bien de nuestra inteligencia, y, sin embargo, ambos se encuentran en un punto de innovación y de agitación exponenciales sin precedentes, de un crecimiento incomparable que dejará bien poco intacto. Una nueva ola de tecnología está empezando a romper en torno a nosotros, y está desatando el poder de diseñar estos dos fundamentos universales; es una ola nada más y nada menos que de inteligencia y de vida.

Son dos las tecnologías clave que definen la ola que viene: la inteligencia artificial (IA) y la biología sintética. Juntas marcarán el inicio de un nuevo amanecer para la humanidad, y crearán riqueza y excedentes como nunca antes se han visto. No obstante, la rapidez con la que proliferarán también amenaza con dar el poder a una variada gama de actores para desencadenar trastornos, inestabilidad e incluso catástrofes de escala inimaginable. Esta ola plantea un inmenso reto que definirá el siglo XXI: nuestro futuro depende de estas tecnologías, pero, al mismo tiempo, se ve amenazado por ellas.

A día de hoy, parece que contener esta ola —es decir, controlarla, frenarla o incluso detenerla— no es posible. Este libro se plantea el porqué de esa afirmación y lo que significaría si fuera cierto. Las implicaciones de esas preguntas acabarán afectando a todos los que estamos vivos y a todas las generaciones que nos sucedan.

Por mi parte, considero que la ola de tecnología que viene llevará a la historia de la humanidad a un punto de inflexión y, si contenerla es imposible, las consecuencias que tendrá para nuestra especie serán dramáticas y potencialmente nefastas. Del mismo modo, sin sus frutos nos quedaremos indefensos y en una situación precaria. Esto es algo que he expuesto en repetidas ocasiones en privado a lo largo de la última década, pero, debido a que las repercusiones se han vuelto cada vez más difíciles de ignorar, es hora de que lo comparta.

EL DILEMA

El hecho de contemplar el profundo poder de la inteligencia humana me llevó a plantear una sencilla pregunta, que lleva consumiendo mi vida desde entonces. ¿Qué pasaría si pudiésemos destilar la esencia de lo que hace que los seres humanos seamos tan productivos y capaces y la convirtiéramos en un software, en un algoritmo? Puede que encontrar la respuesta a esta cuestión desbloquee unas herramientas de poder inconcebible que ayudarían a afrontar los problemas más complejos a los que nos enfrentamos. Desde el cambio climático hasta el envejecimiento de la población, pasando por los alimentos sostenibles, esa podría ser una herramienta, imposible pero extraordinaria, que nos asistiera frente a los increíbles retos de las próximas décadas.

Con esto en mente, en el verano de 2010 cofundé una empresa llamada DeepMind con dos amigos, Demis Hassabis y Shane Legg, en una pintoresca oficina de la época de la Regencia con vistas a la Russell Square de Londres. El objetivo que teníamos, que en retrospectiva aún parece tan ambicioso, descabellado y esperanzador como en aquel momento, era replicar justamente lo que nos distingue como especie, es decir, nuestra inteligencia. Para lograrlo, tendríamos que crear un sistema que fuera capaz de imitar y, en última instancia, superar todas las capacidades cognitivas humanas, desde la visión y el habla hasta la empatía y la creatividad, pasando por la planificación y la imaginación. Dado que un sistema así aprovecharía el procesamiento paralelo de los superordenadores y la explosión de vastas fuentes de datos nuevas procedentes de todo el ancho de la web abierta, sabíamos que incluso un mínimo avance hacia ese objetivo tendría profundas implicaciones para la sociedad.

Por aquel entonces, lo que nos habíamos propuesto parecía algo muy lejano. En esa época, la adopción generalizada de la inteligencia artificial era cosa de ensueño, más una fantasía que una realidad, el territorio de unos pocos académicos aislados y exaltados fanáticos de la ciencia ficción, pero, mientras escribo estas líneas y rememoro la década pasada, los avances de esta área han sido verdaderamente impactantes. DeepMind se convirtió en una de las empresas de inteligencia artificial líderes en el mundo y logró una serie de hitos importantes. La velocidad y el poder de esta nueva revolución nos han sorprendido hasta a los que estamos a la vanguardia. Incluso durante la escritura del libro la velocidad del progreso de esta tecnología ha sido de vértigo. Cada semana, y a veces cada día, salen modelos y productos nuevos, por lo que no cabe duda de que el ritmo de la ola se está acelerando.

Hoy en día, los sistemas de inteligencia artificial son capaces de reconocer rostros y objetos a la perfección, y damos por sentadas la transcripción de voz a texto y la traducción instantánea entre lenguas. Estos sistemas también pueden circular por carreteras y con tráfico lo suficientemente bien para conducir de manera autónoma en algunos entornos. Una nueva generación de modelos de esta tecnología está capacitada para generar imágenes y redactar textos con un nivel de detalle y coherencia extraordinario a partir de unas pocas instrucciones sencillas, así como para producir voces sintéticas de un realismo inexplicable y componer música de belleza extraordinaria. Incluso en ámbitos más difíciles, que durante mucho tiempo se consideraron exclusivamente humanos como las planificaciones a largo plazo, la imaginación y la simulación de ideas complejas, los avances dan pasos agigantados.

La inteligencia artificial lleva décadas ascendiendo por la escala de las capacidades cognitivas y ahora parece dispuesta a alcanzar en los próximos tres años un rendimiento a nivel humano en una amplísima gama de tareas. Se trata de una ambiciosa afirmación, pero, si estoy en lo cierto, las implicaciones son de una enorme envergadura. Lo que parecía quijotesco cuando fundamos DeepMind no solo se ha vuelto plausible, sino, a todas luces, inevitable.

Desde el inicio, tuve claro que la inteligencia artificial sería una herramienta poderosa para lograr un bien extraordinario, pero, como la mayoría de las formas de poder, también estaría plagada de inmensos peligros y dilemas éticos. Durante mucho tiempo me he preocupado no solo de las consecuencias de los avances en IA, sino de hacia dónde se dirige todo el ecosistema tecnológico. Al margen de este tipo de tecnología, se está gestando una revolución más amplia, en la que la inteligencia artificial impulsa una poderosa generación emergente de tecnologías genéticas y de robótica. Un mayor progreso en un área acelera el de las demás en un proceso caótico y de catalización cruzada que escapará al control de cualquiera. Era evidente que si nosotros u otros lográbamos replicar la inteligencia humana, no se trataba tan solo de un negocio rentable como de costumbre, sino de un cambio sísmico para la humanidad, de una era en la que a oportunidades sin precedentes se sumarían riesgos sin precedentes.

A medida que la tecnología ha evolucionado a lo largo de los años, mi preocupación ha ido en aumento. ¿Y si lo que se avecina es un tsunami y no una ola?

En 2010, casi nadie hablaba con seriedad sobre la inteligencia artificial. No obstante, lo que entonces parecía una misión especializada para un pequeño grupo de investigadores y emprendedores se ha convertido ahora en una amplia empresa mundial. Esta tecnología está en todas partes, en las noticias y en tu smartphone, en la Bolsa de valores y en el desarrollo de páginas web. Muchas de las empresas más grandes y de las naciones más ricas del mundo avanzan con paso firme, y desarrollan modelos de inteligencia artificial vanguardistas y técnicas de ingeniería genética impulsadas por decenas de miles de millones de dólares en inversiones. Una vez consolidadas, estas tecnologías emergentes se expandirán con rapidez y se volverán más baratas, más accesibles y estarán más difundidas por toda la sociedad. Asimismo, ofrecerán nuevos extraordinarios avances en medicina y en energías limpias, y no solo crearán nuevos negocios, sino también nuevas industrias y mejoras de la calidad de vida en casi todos los sectores imaginables.

Aun así, junto a esas ventajas, la inteligencia artificial, la biología sintética y otras formas de tecnología avanzadas conllevan riesgos a una escala de lo más preocupante. Podrían suponer una amenaza existencial para los estados nación e implicar un riesgo tan profundo que podrían alterar o incluso anular el orden geopolítico actual, pues abren el camino a inmensos ciberataques potenciados por la inteligencia artificial, a guerras automatizadas capaces de arrasar países, a pandemias provocadas y a un mundo sujeto a fuerzas inexplicables pero al parecer omnipotentes. Puede que la probabilidad de cada uno de estos riesgos sea pequeña, pero las posibles repercusiones son enormes; incluso la más mínima posibilidad de que se den estos casos requiere, sin duda, una atención urgente.

Algunos países reaccionarán ante la contingencia de tales riesgos catastróficos en forma de un autoritarismo de corte tecnológico para ralentizar la expansión de estos nuevos poderes, lo que requerirá enormes niveles de vigilancia, además de intrusiones masivas en nuestra vida privada. Mantener un control estricto de la tecnología podría ser parte de una tendencia a que todo y todos estuviéramos vigilados todo el tiempo con un sistema de vigilancia global distópico que se justificaría con el afán de protegernos de los resultados más extremos posibles.

También resulta plausible una reacción ludita, a base de prohibiciones, boicots y moratorias. ¿Acaso es posible apartarse del desarrollo de nuevas tecnologías e implantar una serie de moratorias? Parece poco probable. Teniendo en cuenta su enorme valor geoestratégico y comercial, es difícil imaginarse cómo se podría convencer a los estados nación o a las corporaciones de que renuncien unilateralmente al poder transformador que estos avances entrañan. Es más, intentar prohibir el desarrollo de nuevas tecnologías es un riesgo en sí mismo, pues las sociedades estancadas en materia tecnológica son tradicionalmente inestables y propensas al colapso. Con el tiempo, pierden la capacidad de resolver problemas y de progresar.

A partir de ahora, tanto apostar como no apostar por las nuevas tecnologías conlleva muchos riesgos. Las posibilidades de apañárnoslas por el camino angosto y evitar tanto una distopía tecnoautoritaria, por un lado, como una catástrofe provocada por la expansión, por el otro, se reducen cada vez más a medida que la tecnología se vuelve más poderosa, más barata y más generalizada, y los riesgos se van acumulando. Y, sin embargo, alejarse tampoco es una opción; incluso cuando nos preocupan las contingencias que presentan, necesitamos más que nunca los increíbles beneficios de las tecnologías de la ola que viene. Así pues, el dilema central es que tarde o temprano una potente generación de tecnología conduzca a la humanidad a desenlaces catastróficos o distópicos, lo que creo que constituye el gran metaproblema del siglo XXI.

Este libro esboza con precisión por qué esta terrible disyuntiva se está tornando inevitable, y explora cómo podríamos afrontarla. De algún modo, debemos extraer lo mejor de la tecnología, que será esencial para hacer frente al desalentador conjunto de retos globales que se nos presenten y, a la vez, escapar del dilema. El discurso actual en torno a la ética y a la seguridad de la tecnología es insuficiente. A pesar de los muchos libros, debates, artículos de blogs y tormentas de tuits sobre tecnología, apenas se habla sobre su contención, una acción que entiendo como un entramado de mecanismos técnicos, sociales y legales que constriñen y controlan la tecnología en todos los niveles posibles; un medio, en teoría, de eludir el dilema. No obstante, incluso los más duros críticos de la tecnología tienden a esquivar las conversaciones sobre una contención firme.

Esto debe cambiar, por lo que espero que este libro muestre el porqué e insinúe el cómo.

* Se publica con autorización de Penguin Random House Grupo Editorial. Mustafa Suleyman es CEO de Microsoft AI y cofundador de Inflection AI. Tras una década en DeepMind, una de las empresas punteras en inteligencia artificial a escala internacional (de la que fue cofundador y que Google adquirió en 2014), en 2019 pasó a ocupar un puesto de vicepresidente de gestión de productos y políticas de IA en el gigante tech de Mountain View. Tres años más tarde, tras abandonar la compañía, puso en marcha Inflection AI junto a Reid Hoffman y Karén Simonyan. Esta startup de autoaprendizaje ha sido responsable del desarrollo del chatbot Pi. Vive en Palo Alto, California. Michael Bhaskar es editor, investigador y autor de La máquina de contenido (FCE, 2013), Curaduría (FCE, 2017) y Human Frontiers . Vive en Reino Unido.