Aún quedan muchas preguntas sin responder en la carrera por desarrollar coches autónomos de nivel 5. Por los momentos están muy avanzados aspectos técnicos, electromecánicos, de inteligencia artificial o de automatización. Pero qué sucede con las decisiones en la conducción autónoma que debe enfrentar el coche y son de tipo ético o moral. Por ejemplo, el dilema del tranvía.
¿Qué es el dilema del tranvía?
Es un experimento diseñado por la filósofa británica Philippa Foot que se utiliza mucho en sicología para ejercicios mentales éticos. Plantea a quién responde, el dilema de tomar una decisión ética circunscrita en una situación crítica.
Desde su origen han surgido muchas variantes. Básicamente le sugiere que es el conductor de un tranvía que puede optar por varios carriles. En cada uno de éstos se encuentran seres que puede atropellar, ¿Qué vía tomaría? Este es el dilema que debe resolver.
La relación con los coches autónomos
Por supuesto un ser humano que se enfrenta al dilema del tranvía decide basado en un conjunto de reglas éticas personales. Pero ¿cuáles reglas deberían seguir los coches autónomos si se presentasen situaciones parecidas?
Según Sergio Álvarez, doctor en inteligencia artificial con larga experiencia en tecnologías de conducción autónoma, este es un problema real que deberán enfrentar los coches autónomos.
Álvarez opina que el coche debería optar por un enfoque utilitarista, el cual dice que ante un accidente inevitable debe seleccionarse la alternativa que implique “menor riesgo”. En el caso de tener que atropellar personas, significaría tomar la decisión que afecte menos vidas.
Algunas iniciativas al respecto
Ya existen algunos grupos de trabajo a nivel mundial que está ocupándose en cómo los coches autónomo deben resolver el dilema del tranvía. Veamos dos ejemplos.
Un código ético para coches autónomos
Aprobado por el gobierno alemán tras revisar varios estudios al respecto, este código plantea en su numeral 9 lo siguiente.
“En situaciones de accidentes inevitables, cualquier calificación de acuerdo con las características personales (edad, sexo, constitución física o mental) está estrictamente prohibida”
Significa que ante una situación que implique poner en riesgo vidas humanas, un coche autónomo no puede discriminar por las características de los individuos como criterio para tomar la decisión.
Involucrando a los usuarios potenciales
Es la iniciativa que ha tomado MIT Media Lab, del Instituto de Massachusetts, al crear un juego que pone a los jugadores en el rol de los coches autónomos ante el dilema del tranvía. Denominado Moral Machine, reunió 40 millones de decisiones de usuarios provenientes de 233 países distintos.
Los resultados demostraron que existen diferencias éticas que dependen de las culturas regionales. Habrá que esperar para lograr un consenso respecto al problema.
Fuente: Newtral