El debate que tengo hoy en mi cabeza y que te traigo hoy no va sobre la tecnología de los coches autónomos, es más bien un tema moral a raíz de una charla con una amiga el otro día.
Me comentaba que hacía poco había tenido conocimiento de un accidente en cadena, de esos choques múltiples que se producen en autovías, y que el causante del choque, el primer vehículo, contaba que el coche había frenado sólo. Había detectado un obstáculo inexistente y había decidido frenar en seco, arrastrando a todos los que venían detrás a una colisión en cadena.
Si tienes un coche más o menos moderno, sabrás que cada día cuentan con más asistentes a la conducción. Hemos pasado de tener dirección asistida y climatizados a coches que corrigen la dirección si detectan que te vas a salir en una curva, se apagan solos, te alertan si vas a cambiar de carril y no has puesto el intermitente… muchísimas cosas prácticas en pos de nuestra seguridad y comodidad. Una de ellas es precisamente estos sistemas de alerta de obstáculos que incluso te frenan el coche.
Yo tuve justo durante la pandemia un coche que tenía esa alerta y no paraba de encenderse en rojo y pitar como si hubiera un elefante en mitad de la carretera o fuera a atropellar a un ser vivo. Y no hubo ni una sola vez que lo hiciera cuando este ocurría. Siempre tenía camino despejado pero él detectaba algo. Justo lo que parece que le pasó a este conductor.
Ese coche que tenía sólo alertaba, no hacía nada más. En el que tengo actualmente sí que interactúa con el freno. No he tenido falsos positivos, por decirlo de alguna manera, en los que detectara un obstáculo inexistente, pero sí me ha pasado alguna vez que, habiendo un coche parado o parando delante mía y estando yo frenando, el coche ha pensado que no estaba frenando lo suficiente, ha saltado la alerta y me ha frenado más de lo que yo lo estaba haciendo.
La sensación es extrañísima pero sobre todo da que pensar, más aún escuchando a mi amiga, en que aún no son nada fiables estos sistemas. Quiero pensar que en una carretera, más controlado, más tranquilo, puedan ayudar, pero en una ciudad donde pasan tantas cosas, esto no funciona.
Es más, le comentaba yo a mi amiga que ese golpe no es culpa del conductor sino de su coche, que eso debería pagarlo el fabricante, ¿no crees? A ver, el conductor no tiene la culpa de nada. Él está tan tranquilo y es el coche el que toma la decisión de frenar. ¿Porqué tiene que pagar él o su compañía de seguros? No parece tener mucho sentido.
Con tantos sistemas que incorporan los coches, ya están tardando en incorporar unas cajas negras como en los aviones que almacenen esas cosas. Que puedan mirar las aseguradoras, policías, peritos…. para saber qué ocurrió. Con las grabaciones de las cámaras, los sensores, las decisiones del coche, lo que el conductor hace… Me parece que ya tardan y que es totalmente necesario.
Cuando se habla de filosofía, ética y cosas así referidos a la inteligencia artificial, se suele poner un ejemplo muy sencillo con un coche autónomo. Los sensores detectan a una persona en la carretera. Si el coche continúa sin duda va a matar a esa persona porque no puede frenar. No puede esquivar por un lado porque no hay hueco y el único sitio es la derecha donde hay un acantilado, árbol o lo que quieras que provocará la muerte del conductor. ¿Qué vida debe salvar? ¿Cómo programas ese algoritmo?
La respuesta yo no la tengo y dudo que nadie la tenga. Supongo que el coche hará en ese momento millones de cálculos de probabilidades y estimará cual es el mal menor, pero es un ejemplo de que al final los coches van a tomar decisiones por nosotros, como en el caso del accidente que comentaba mi amiga. Esa decisión de frenar la tomó el coche. No creo que sea justo que pague los platos rotos el conductor.
¿Tú crees que habrá seguros especiales para eso? Yo no creo que tarden en surgir.
Nos leemos en 7 días.