¿Cómo tomarán decisiones morales los vehículos autónomos? Un estudio responde
Un equipo internacional de científicos, con participación española, ha constatado por primera vez que las ondas cerebrales lentas son las que tienen mayor peso en la toma de decisiones morales en las personas. Esta información es de gran interés para el desarrollo de vehículos de conducción autónoma, ya que se busca que los protocolos de conducción tomen decisiones de manera similar a como lo harían las personas.
-Agencia Sinc
Según las últimas estimaciones, el nivel 5 de conducción autónoma, o lo que es lo mismo, que el vehículo se encargue de conducir en cualquier situación, no será técnicamente posible hasta el 2024. Hasta entonces, la comunidad científica debe definir los protocolos de conducción más adecuados. La mayoría coincide en que la inteligencia artificial debería actuar como lo haría un humano ante situaciones controvertidas, por ejemplo, aquellas en las que no es posible evitar el daño de los ocupantes del vehículo o bien de terceras personas. (Carro autónomo de Uber atropella a mujer y la mata)
El coche deberá decidir cómo actuar en milésimas de segundo, pero todavía no se conoce cómo se comporta el cerebro humano cuando debe tomar una decisión así, con fuerte contenido moral. “Existen necesidades reales de entender cuáles son las causas fisiológicas que llevan a una persona a evitar una colisión frontal a cambio de poner en peligro otras personas que en principio no estaban involucradas, o viceversa”, explica Javier Gómez-Pilar, investigador del Grupo de Ingeniería Biomédica (GIB) de la Universidad de Valladolid (UVa). “Está claro que el objetivo último es reducir el número de muertes al volante”, añade.
El estudio multidisciplinar, llevado a cabo científicos de la Universidad de Valladolid, la Universidad de Ottawa (Canadá) y la Universidad de Hiroshima (Japón), analiza cómo se manifiestan las decisiones morales en la actividad neuronal. Mientras que los primeros aportan su experiencia en los aspectos clínicos del estudio, el investigador del GIB se centra en los aspectos técnicos de procesado de señal y análisis de datos. La investigación se ha publicado en la revista Scientific Reports.
El dilema del tranvía
Para abordar este objeto, el equipo se apoyó en el famoso dilema del tranvía planteado por Philippa Foot. “En su versión original, se plantea una situación en la que un tranvía corre fuera de control por una vía. En su camino hay cinco personas atadas a la vía. Es posible pulsar un botón que desviará al tranvía por una vía diferente, salvando así a las cinco personas. Por desgracia, hay otra persona atada a esta vía, por lo que salvar a las cinco personas implica sentenciar a esta otra. ¿Debería pulsarse el botón? No hay respuesta correcta. Es una decisión personal que varía dependiendo de la mentalidad consecuencialista o no de cada uno”, detalla Javier Gómez Pilar del GIB.
Pero, ¿cuáles son los procesos neuronales que se desencadenan al plantearse una cuestión de esta índole? Para determinarlos, los investigadores utilizaron la electroencefalografía. Esta técnica –común en estudios de sueño o en el diagnóstico de la epilepsia, entre otros–, consiste en colocar electrodos en el cuero cabelludo que son sensibles a la actividad eléctrica debida a las sinapsis neuronales.
En concreto, los electrodos se colocaron en 41 participantes en el estudio, a quienes se planteó repetidas veces diversas variantes del dilema del tranvía cambiando el número de personas implicadas en cada decisión. Paralelamente, se registró la actividad neuronal y los tiempos de reacción de las decisiones de todas estas personas. Además, los participantes realizaron un ejercicio similar pero en el que no mediaba ninguna carga moral, a modo de control, para tomarlo como referencia con la que comparar.
“Observando las diferencias entre ambas respuestas cerebrales podemos aislar la actividad cerebral derivada de la elección moral. Estas diferencias las analizamos desde distintas perspectivas, como la amplitud de las ondas, su frecuencia, su fase o el grado de conectividad de distintas regiones cerebrales”, indica el investigador de la UVa.
El equipo comprobó que, efectivamente, la respuesta neuronal es distinta en una decisión mediada por la moral y que en otra sin esa carga. Asimismo, las diferencias identificadas se corresponden con marcadores neuronales que no habían sido identificados anteriormente: las ondas cerebrales lentas (delta, theta y alfa) son las que tienen mayor peso en la toma de decisiones morales. Un papel que se acentúa cuando el nivel de ‘utilitarismo’ es bajo, es decir, cuando el número de vidas que se salvan a cambio de perder otras, está igualado.
“Este trabajo puede ayudar a marcar el camino para un correcto diseño de los protocolos de conducción autónoma”, afirma Gómez-Pilar. Una conducción que ya es una realidad y que, en los próximos años, dará los pasos definitivos hasta la autonomía total.
Según las últimas estimaciones, el nivel 5 de conducción autónoma, o lo que es lo mismo, que el vehículo se encargue de conducir en cualquier situación, no será técnicamente posible hasta el 2024. Hasta entonces, la comunidad científica debe definir los protocolos de conducción más adecuados. La mayoría coincide en que la inteligencia artificial debería actuar como lo haría un humano ante situaciones controvertidas, por ejemplo, aquellas en las que no es posible evitar el daño de los ocupantes del vehículo o bien de terceras personas. (Carro autónomo de Uber atropella a mujer y la mata)
El coche deberá decidir cómo actuar en milésimas de segundo, pero todavía no se conoce cómo se comporta el cerebro humano cuando debe tomar una decisión así, con fuerte contenido moral. “Existen necesidades reales de entender cuáles son las causas fisiológicas que llevan a una persona a evitar una colisión frontal a cambio de poner en peligro otras personas que en principio no estaban involucradas, o viceversa”, explica Javier Gómez-Pilar, investigador del Grupo de Ingeniería Biomédica (GIB) de la Universidad de Valladolid (UVa). “Está claro que el objetivo último es reducir el número de muertes al volante”, añade.
El estudio multidisciplinar, llevado a cabo científicos de la Universidad de Valladolid, la Universidad de Ottawa (Canadá) y la Universidad de Hiroshima (Japón), analiza cómo se manifiestan las decisiones morales en la actividad neuronal. Mientras que los primeros aportan su experiencia en los aspectos clínicos del estudio, el investigador del GIB se centra en los aspectos técnicos de procesado de señal y análisis de datos. La investigación se ha publicado en la revista Scientific Reports.
El dilema del tranvía
Para abordar este objeto, el equipo se apoyó en el famoso dilema del tranvía planteado por Philippa Foot. “En su versión original, se plantea una situación en la que un tranvía corre fuera de control por una vía. En su camino hay cinco personas atadas a la vía. Es posible pulsar un botón que desviará al tranvía por una vía diferente, salvando así a las cinco personas. Por desgracia, hay otra persona atada a esta vía, por lo que salvar a las cinco personas implica sentenciar a esta otra. ¿Debería pulsarse el botón? No hay respuesta correcta. Es una decisión personal que varía dependiendo de la mentalidad consecuencialista o no de cada uno”, detalla Javier Gómez Pilar del GIB.
Pero, ¿cuáles son los procesos neuronales que se desencadenan al plantearse una cuestión de esta índole? Para determinarlos, los investigadores utilizaron la electroencefalografía. Esta técnica –común en estudios de sueño o en el diagnóstico de la epilepsia, entre otros–, consiste en colocar electrodos en el cuero cabelludo que son sensibles a la actividad eléctrica debida a las sinapsis neuronales.
En concreto, los electrodos se colocaron en 41 participantes en el estudio, a quienes se planteó repetidas veces diversas variantes del dilema del tranvía cambiando el número de personas implicadas en cada decisión. Paralelamente, se registró la actividad neuronal y los tiempos de reacción de las decisiones de todas estas personas. Además, los participantes realizaron un ejercicio similar pero en el que no mediaba ninguna carga moral, a modo de control, para tomarlo como referencia con la que comparar.
“Observando las diferencias entre ambas respuestas cerebrales podemos aislar la actividad cerebral derivada de la elección moral. Estas diferencias las analizamos desde distintas perspectivas, como la amplitud de las ondas, su frecuencia, su fase o el grado de conectividad de distintas regiones cerebrales”, indica el investigador de la UVa.
El equipo comprobó que, efectivamente, la respuesta neuronal es distinta en una decisión mediada por la moral y que en otra sin esa carga. Asimismo, las diferencias identificadas se corresponden con marcadores neuronales que no habían sido identificados anteriormente: las ondas cerebrales lentas (delta, theta y alfa) son las que tienen mayor peso en la toma de decisiones morales. Un papel que se acentúa cuando el nivel de ‘utilitarismo’ es bajo, es decir, cuando el número de vidas que se salvan a cambio de perder otras, está igualado.
“Este trabajo puede ayudar a marcar el camino para un correcto diseño de los protocolos de conducción autónoma”, afirma Gómez-Pilar. Una conducción que ya es una realidad y que, en los próximos años, dará los pasos definitivos hasta la autonomía total.