¿A quién «debería» matar un coche autónomo? ¡Que sea lo que el coche quiera!

En los últimos tiempos aparecen de manera frecuente noticias en los medios de comunicación donde se nos informa de estudios y propuestas sobre cómo “deberían” comportarse “moralmente” e, intuyo, “jurídicamente” robots, coches autónomos y, en general, las máquinas dotadas de los últimos avances tecnológicos. Lo que hace no mucho podría pasar por una mera especulación filosófica o, directamente, por relato de ciencia-ficción se presenta ahora como algo factible a medio o, incluso, corto plazo.

El 25 de octubre en el periódico El País apareció el reportaje “¿A quién mataría (como mal menor) un coche autónomo? Un experimento con dos millones de personas plantea cómo debería actuar un vehículo sin conductor ante un incidente de tráfico con consecuencias mortales”, donde se cuenta que un grupo de científicos europeos y estadounidenses diseñaron un videojuego en el que los participantes tenían que hacer de coche autónomo. “Se les presentaron una decena de dilemas como los de arriba en los que alguien moría sí o sí, ya fueran los ocupantes del coche o diversos peatones, desde una persona obesa hasta tres viejecitas, pasando por alguien que cruzaba la carretera por donde no debía”. En la noticia se informa que en el experimento de la máquina moral, como la han llamado, han participado ya más de dos millones de personas de 233 países y territorios (aún se puede jugar). Con sus casi 40 millones de dilemas resueltos, se ha convertido en una especie de tratado sobre lo que los humanos creen que es más o menos correcto. También que la investigación, publicada en Nature, muestra una preferencia específica según el tipo de personaje: de los que cruzan el paso de cebra, los que merecen más la pena salvar son, por este orden, un bebé a bordo de un carrito, una niña, un niño y una mujer embarazada. En sentido contrario, y dejando a un lado las mascotas, los delincuentes, los ancianos y los sintecho son los humanos más sacrificables.

Parece, pues, que se podrían tener en cuenta estas preferencias a la hora de programar el funcionamiento de los vehículos autónomos, si bien los propios autores del experimento reconocen que sería difícil conseguir una aceptación general de las mismas por las diferentes “sensibilidades” presentes en cada país. Y si atendemos a lo que se ha hecho hasta la fecha resulta que, como también se nos cuenta en la noticia de El País, el único país que ha propuesto ya una guía moral para los vehículos autónomos es Alemania: en 2017 y a instancias del Ministerio de Transportes, un grupo de ingenieros, profesores de filosofía, expertos en derecho, representantes de los fabricantes, los consumidores y hasta las iglesias elaboraron un código ético con 20 normas donde, a mi juicio, destaca, la norma 9: “In the event of unavoidable accident situations, any distinction based on personal features (age, gender, physical or mental constitution) is strictly prohibited” («En el caso de situaciones donde el accidente sea inevitable, está estrictamente prohibida cualquier distinción basada en rasgos personales (edad, género, o constitución física o mental)”. En suma, si el coche se “descontrola” no cabe intentan controlar el daño a través de una programación previa articulada jurídica y tecnológicamente. 

Y esa me parece la única respuesta posible si tenemos en cuenta que en un sistema democrático la clave es la protección de las minorías y la última -o primera- minoría es cada persona y sus circunstancias; en otras palabras, nadie vale más que nadie ni nadie “debe” ser sacrificado para salvar a otros. 

Para concluir, me parece oportuno situar esta noticia en el contexto más amplio de las relaciones entre Derecho y tecnología y para ello me permito hacer una referencia cinematográfica y otra bibliográfica: la primera a la película Blade Runner, dirigida por Ridley Scott y estrenada en 1982 -aunque hay un “montaje del director” de 1992-, y la segunda al libro sobre la misma que escribió en 2003 el profesor Javier de Lucas (Blade Runner. El Derecho, guardián de la diferencia, Tirant). En su excelente análisis, Javier de Lucas comenta, entre otras cosas, que la vieja tarea del Derecho, la de marcar las horas sociales, es una tarea inútil en un mundo presidido por la frenética aceleración de la vida social, fruto de la tecnología, acentuada hoy mucho más comparándola no ya con lo que ocurría en 1982 -por cierto, la acción de Blade Runner se desarrollaba en el mes de noviembre de 2019- sino con lo que era presente en 2003. 

Lo que quiero señalar con estas referencias es que si durante mucho tiempo se ha sostenido que el Derecho va casi siempre por detrás de la realidad, cuando hablamos de la regulación de la tecnología la distancia se hace casi eterna porque, como le decía la Reina Roja a Alicia, “si se quiere llegar a otra parte hay que correr por lo menos dos veces más rápido” y no parece que el Legislador, ni siquiera el “legislador gubernamental”, sea capaz de mantener ese ritmo. 

En suma, me parece muy difícil legislar de manera adecuada y efectiva, si por tal cosa entendemos “someter” o, cuando menos, “limitar”, cómo deberían comportarse en el futuro próximo las máquinas. Me parece mucho más modesto y, a la vista de los resultados de la “máquina moral”, mucho más justo que renunciemos a trasladarles una suerte de preferencias mayoritarias que incidirían todavía más en la exclusión de algunas personas y grupos ya estigmatizados en el presente. Por tanto, en caso de accidentes inevitables «que sea  lo que el coche quiera».

Getty Images.

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.