Mientras que la inteligencia artificial continúa siendo un tema de discusión, las compañías detrás de varios de estos modelos se enfrentan a problemas que parece que no pueden ser solucionados exclusivamente a través de la tecnología o la ingeniería. Para abordar desafíos de seguridad y regulación de contenidos, estas empresas actualmente están recurriendo a otra disciplina: la filosofía.
Según un reporte de New Scientist, las compañías de IA están contratando cada vez más a doctores en filosofía. El trabajo de los nuevos integrantes de estas empresas sería hacer sus modelos más confiables y capaces; al mismo tiempo, se espera que aporten conocimiento sobre la conciencia y si la inteligencia puede replicarse únicamente mediante software.
Le sugerimos: “El corazón de las tinieblas” de Joseph Conrad: poder sin límites (La novela y el mundo)
Los filósofos que están siendo contratados trabajarían también en resolver preguntas como “¿qué hacen las mentes?, ¿qué hacen los cerebros? y ¿qué de esos procesos podría replicarse?”. Y, por otro lado, sus funciones incluirían ayudar a disminuir las “alucinaciones” de las inteligencias artificiales y acercarse a definir si realmente esta tecnología muestra capacidades de sentir.
“Temas que se han investigado en los departamentos de filosofía durante décadas —cómo tomar decisiones racionales, cómo sistematizar los principios morales, qué se considera pensamiento, razonamiento o introspección, qué se considera evidencia de consciencia— de repente tienen un valor inmenso para las empresas de IA”, le dijo Jonathan Birch de la London School of Economics and Political Science a New Scientist. “Por lo tanto, naturalmente, estamos presenciando una enorme fuga de cerebros”.
Una de las tareas más desafiantes que tienen los filósofos que llegan a estas empresas es ayudar a que los modelos sean más seguros y que, por ejemplo, no revelen contenido o instrucciones sobre cómo crear una bomba.
Le recomendamos: Un investigador español halló una traducción inédita de Tolkien oculta en Oxford
“A los estudiantes de filosofía se les enseña razonamiento inferencial y lógica, lo cual puede ser útil para desarrollar cadenas de pensamiento más largas, como lo llaman los expertos en IA. Pero el verdadero desafío radica en encontrar la manera de crear modelos de IA más seguros. Y esto, sin duda, se ha convertido en una prioridad a medida que estos modelos se vuelven mucho más potentes”, aseguró Benjamin Sutherland, reportero de The Economist, para la NPR.
Parte del problema está en que en el pasado se habían puesto reglas y regulaciones a través de medios informáticos. Sin embargo, estos fueron fáciles de evadir y, además, según el reporte de New Scientist, una vez se le pedía a una IA que rompiera una regla para una situación específica, el modelo extrapolaba esa instrucción a otros casos. Desde la filosofía, los laboratorios detrás de esta tecnología podrían encontrar la respuesta a “¿por qué sucede esto?”.
Podría interesarle: Un recorrido hacia la música de Bach y la época en la que vivió
“Como especialista en ética, una forma de entender lo que hacemos es intentar definir la forma y el alcance de conceptos como lo correcto y lo incorrecto, o lo bueno y lo malo, e intentar determinar qué cosas entran dentro de ellos, tanto en el uso común como conceptualmente, y ese parece ser precisamente el tipo de análisis que realiza el programa”, le dijo Shane Glackin a New Scientist.
Para Sutherland, hay diferentes escuelas de pensamiento que podrían llegar a tener incidencia sobre los modelos de IA. Por un lado, cree que modelos como Claude de Anthropic se decantan más por una corriente deontológica, mientras que otros podrían acudir al consecuencialismo. Sin embargo, considera que, debido a la presión de diversos gobiernos por regular la IA, la corriente deontológica podría imponerse sobre las demás.
Mientras que unos ven estas oportunidades como un cambio interesante para el sector, otros apuntan a que las habilidades de los filósofos podrían estar mejor aprovechadas en otras tareas como ayudar a los ingenieros a desentrañar lo que sucede dentro de los modelos.
Del otro lado de la moneda, Birch advirtió a New Scientist que esta tendencia y este trabajo filosófico financiado por empresas de IA podrían llegar a ser algo negativo por posibles conflictos de interés. “De forma explícita o implícita, las empresas tienen expectativas que desean que se cumplan y tienen el poder de favorecer a los autores que presentan argumentos e ideas que les resultan interesantes. Ojalá hubiéramos avanzado más en las grandes cuestiones de la filosofía —sobre la conciencia, la capacidad de decisión, la moralidad, etc.— antes de la llegada de la IA. De haberlo hecho, habríamos estado mejor preparados. La IA ha conferido ahora una enorme urgencia a estas cuestiones, y aun así, las respuestas todavía parecen lejanas", dijo.
Si le interesa seguir leyendo sobre El Magazín Cultural, puede ingresar aquí 🎭🎨🎻📚📖
Por Andrea Jaramillo Caro
