Los rápidos progresos de la conducción autónoma han generado preocupaciones sobre la toma de decisiones éticas por parte de futuros vehículos. Por ejemplo, ¿debería desviarse para evitar un accidente si esto podría provocar graves lesiones a otras personas que no viajan dentro del vehículo? 

El director de la Junta Nacional de Seguridad en el Transporte de Estados Unidos (NTSB, por sus siglas en inglés), Christopher Hart, comparte estas preocupaciones. Explicó a MIT Technology Review que se requerirán regulaciones federales para establecer la ética básica de los vehículos autónomos, además de los estándares de seguridad sobre su nivel de fiabilidad.

Hart dijo que es probable que la Administración Nacional de Seguridad en Carretera de Estados Unidos (NHTSA, por sus siglas en inglés) establezca que los coches autónomos incorporen medidas de seguridad para los componentes críticos, de forma parecida a los fabricantes de aeronaves.

Foto: Un prototipo de un Mercedes-Benz Clase A autónomo. 

"El Gobierno tendrá que entrar en juego y decir: 'Tienen que demostrar menos de X probabilidades de fallo, o incorporar una medida de seguridad que asegure que este fallo no mate a nadie", apuntó Hart.

También dijo que tendrá que haber reglas sobre cómo se programan las cuestiones éticas en el software. Dio el ejemplo de un coche autónomo que deba elegir entre una colisión potencialmente mortal con un camión y subirse a la acera y chocar contra peatones. Hart detalla: "Para mí, hará falta una respuesta del Gobierno federal para abordar eso. Ese tipo de decisiones éticas serán inevitables".

La NHTSA lleva ocho meses estudiando cómo regulará los coches autónomos, y publicará directrices en un futuro próximo. Hasta ahora, la agencia no ha hablado sobre las cuestiones éticas asociadas a la conducción autónoma.

La regulación existente para los coches autónomos procede de estados como California (EEUU), y está dirigida a los prototipos que están siendo probados por empresas como Alphabet y Uber. California establece que siempre haya un conductor de seguridad preparado para asumir el control, y que la empresa presente informes sobre los incidentes en los que un humano haya tenido que hacerlo.

El experto en derecho robótico de la Universidad de Washington (EEUU) Ryan Calo se siente escéptico sobre la posibilidad de convertir los debates éticos hasta ahora teóricos en reglas prácticas o diseños de sistema. No cree que los coches autónomos lleguen a ser lo suficientemente sofisticados como para entender los diferentes factores que procesaría un humano en situaciones de la vida real.

Calo cree que el mayor dilema es si estamos dispuestos a desplegar vehículos que impedirán muchos accidentes pero que de vez en cuando también cometerán fallos mortales que ningún humano haría jamás. "Si se encuentra con un carrito de la compra y un cochecito de bebé al mismo tiempo, no podrá tomar una determinación moral de que la compra es menos importante que las personas", señala Calo. "Pero, ¿y si a nivel global salva decenas de miles de vidas simplemente porque es más seguro que los humanos?", se pregunta.

El profesor de filosofía de la Universidad Politécnica Estatal de California en San Luis Obispo (EEUU) Patrick Lin, que ha estudiado la ética y la conducción autónoma para la rama sin ánimo de lucro de Daimler-Benz, dice que la idea de que los coches realicen análisis éticos no debería ser desestimada tan rápidamente. Los progresos en sensores, inteligencia artificial y software de reconocimiento facial también tienen muchas probabilidades de dar paso a coches capaces de decidir entre salvar una vida y sacrificar otra, asegura.

Lin afirma: "Será mejor que intentemos anticiparnos proactivamente y gestionar el problema antes de que se presente. Este es el tipo de cosas que dará paso a un pleito que podría destruir una empresa o dejar una enorme marca negra en la industria".

Los estándares federales éticos o de otros aspectos de la seguridad también podrían aportar algo de transparencia sobre cómo los coches autónomos toman decisiones. Lin explica que los fabricantes automovilísticos en general quieren preservar el funcionamiento interno del software de sus vehículos de los hackers y rivales. "Los fabricantes automovilísticos son famosos por el gran secretismo que guardan sobre sus programas y su razonamiento para optimizar las colisiones", concluye Lin.