Por Catalina Miller El clásico experimento mental conocido como el “problema del tranvía” pregunta: ¿Deberíamos tirar de una palanca para desviar un tranvía fuera de control de modo que mate a una persona en lugar de cinco? Alternativamente: ¿Qué pasaría si tuvieras que empujar a alguien hacia las vías para detener el tranvía? ¿Cuál es la elección moral en cada uno de estos casos? Durante décadas, los filósofos han debatido si deberíamos preferir la solución utilitaria (lo que es mejor para la sociedad; es decir, menos muertes) o una solución que valore los derechos individuales (como el derecho a no ser puesto en peligro intencionalmente). En los últimos años, los diseñadores de vehículos automatizados también han reflexionado sobre cómo los vehículos autónomos que se enfrentan a situaciones de conducción inesperadas podrían resolver dilemas similares. Por ejemplo: ¿Qué debe hacer el AV si de repente una bicicleta entra en su carril? ¿Debería desviarse hacia el tráfico que viene en sentido contrario o chocar con la bicicleta? Según Chris Gerdes , profesor emérito de ingeniería mecánica y codirector del Centro de Investigación Automotriz de Stanford (CARS), la solución está justo frente a nosotros. Está integrado en el contrato social que ya tenemos con otros conductores, según lo establecido en nuestras leyes de tránsito y su interpretación por parte de los tribunales. Junto con colaboradores de Ford Motor Co., Gerdes publicó recientemente una solución al problema del tranvía en el contexto audiovisual. Aquí, Gerdes describe ese trabajo y sugiere que generará una mayor confianza en los vehículos autónomos. ¿Cómo podrían nuestras leyes de tránsito ayudar a guiar el comportamiento ético de los vehículos automatizados? Ford tiene una política corporativa que dice: Cumpla siempre la ley. Y este proyecto surgió de unas cuantas preguntas simples: ¿Esa política se aplica a la conducción automatizada? ¿Y cuándo, si es que alguna vez lo es, es ético que un vehículo autónomo infrinja las leyes de tránsito? Mientras investigamos estas preguntas, nos dimos cuenta de que además del código de tránsito, existen decisiones de apelación e instrucciones del jurado que ayudan a desarrollar el contrato social que se ha desarrollado durante los más de cien años que llevamos conduciendo automóviles. Y el núcleo de ese contrato social gira en torno al ejercicio del deber de cuidar a los demás usuarios de la vía siguiendo las leyes de tránsito, excepto cuando sea necesario para evitar una colisión. Esencialmente: en las mismas situaciones en las que parece razonable violar la ley éticamente, también lo es violar el código de tránsito legalmente. Desde una perspectiva de IA centrada en el ser humano, este es un punto importante: queremos que los sistemas AV sean, en última instancia, responsables ante los humanos. Y el mecanismo que tenemos para hacerlos responsables ante los humanos es hacer que obedezcan las leyes de tránsito en general. Sin embargo, este principio fundamental (que los vehículos autónomos deben cumplir la ley) no está plenamente aceptado en toda la industria. Algunas personas hablan de conducción naturalista, lo que significa que si los humanos aceleran, el vehículo automatizado también debería acelerar. Pero no existe ninguna base legal para hacerlo, ni como vehículo automatizado ni como empresa que dice cumplir la ley. Entonces, realmente la única base para que un AV infrinja la ley debería ser que es necesario evitar una colisión, y resulta que la ley prácticamente está de acuerdo con eso. Por ejemplo, si no hay tráfico en sentido contrario y un AV pasa la doble línea amarilla para evitar una colisión con una bicicleta, puede haber violado el código de tránsito, pero no ha violado la ley porque hizo lo necesario para evitar una colisión. colisión manteniendo su deber de diligencia hacia los demás usuarios de la vía. ¿Cuáles son las cuestiones éticas que deben afrontar los diseñadores audiovisuales? Los dilemas éticos a los que se enfrentan los programadores AV se refieren principalmente a situaciones de conducción excepcionales: casos en los que el coche no puede cumplir al mismo tiempo sus obligaciones con todos los usuarios de la carretera y sus pasajeros. Hasta ahora, ha habido mucha discusión centrada en el enfoque utilitario, sugiriendo que los fabricantes de vehículos automatizados deben decidir quién vive y quién muere en estas situaciones de dilema: el ciclista que cruzó frente al AV o las personas que circulan en sentido contrario, por ejemplo. ejemplo. Pero para mí, la premisa de que el automóvil decida qué vida es más valiosa es profundamente errónea. Y, en general, los fabricantes de AV han rechazado la solución utilitaria. Dirían que en realidad no están programando problemas con los tranvías; están programando AV para que sean seguros. Entonces, por ejemplo, han desarrollado enfoques como RSS [seguridad sensible a la responsabilidad], que es un intento de crear un conjunto de reglas que mantienen una cierta distancia alrededor del AV de modo que si todos siguieran esas reglas, no tendríamos colisiones. El problema es este: aunque el RSS no maneja explícitamente situaciones dilemáticas que involucran una colisión inevitable, el AV se comportaría de alguna manera, ya sea que ese comportamiento esté diseñado conscientemente o simplemente surja de las reglas que fueron programadas en él. Y si bien creo que es justo por parte de la industria decir que en realidad no estamos programando para problemas de tranvías, también es justo preguntar: ¿Qué haría el automóvil en estas situaciones? Entonces, ¿cómo deberíamos programar los AV para manejar las colisiones inevitables? Si los vehículos autónomos pueden programarse para cumplir con el deber legal de cuidado que deben hacia todos los usuarios de la carretera, entonces las colisiones sólo ocurrirán cuando alguien infrinja su deber de cuidado hacia el vehículo autónomo, o haya algún tipo de falla mecánica, o un árbol caiga sobre el camino. camino o se abre un socavón. Pero digamos que otro usuario de la vía viola su deber de diligencia hacia el AV al pasarse un semáforo en rojo o girar delante del AV. Entonces, los principios que hemos articulado dicen que, no obstante, el AV le debe a esa persona el deber de diligencia y debe hacer todo lo que pueda (hasta los límites físicos del vehículo) para evitar una colisión, sin arrastrar a nadie más a ella. En ese sentido, tenemos una solución al problema del carro de los AV. No consideramos la probabilidad de que una persona resulte herida frente a otras personas que resulten heridas. En cambio, decimos que no se nos permite elegir acciones que violen el deber de cuidado que debemos a otras personas. Por lo tanto, intentamos resolver este conflicto con la persona que lo creó –la persona que violó el deber de diligencia que nos debe– sin involucrar a otras personas. Y yo diría que esta solución cumple nuestro contrato social. Los conductores tienen la expectativa de que, si siguen las reglas de tránsito y cumplen con todos sus deberes de cuidado hacia los demás, podrán viajar de manera segura en la carretera. ¿Por qué estaría bien evitar una bicicleta desviando un vehículo automatizado fuera de su carril y chocando contra otro automóvil que estaba obedeciendo la ley? ¿Por qué tomar una decisión que perjudica a alguien que no forma parte del dilema que nos ocupa? ¿Deberíamos suponer que el daño podría ser menor que el daño al ciclista? Creo que es difícil justificar eso no sólo moralmente sino también en la práctica. Hay tantos factores desconocidos en cualquier colisión automovilística. No sabes cuáles serán las acciones de los diferentes usuarios de la vía y no sabes cuál será el resultado de un impacto particular. Diseñar un sistema que afirme ser capaz de realizar ese cálculo utilitario instantáneamente no sólo es éticamente dudoso, sino prácticamente imposible. Y si un fabricante diseñara un AV que costaría una vida para salvar cinco, probablemente enfrentaría una responsabilidad significativa por ello porque no hay nada en nuestro contrato social que justifique este tipo de pensamiento utilitario. ¿Su solución al problema de los tranvías ayudará al público a creer que los vehículos autónomos son seguros? Si lee algunas de las investigaciones que existen, podría pensar que los AV utilizan una ética de colaboración colectiva y están capacitados para tomar decisiones basadas en el valor de una persona para la sociedad. Me imagino que la gente estará bastante preocupada por eso. La gente también ha expresado cierta preocupación por los automóviles que podrían sacrificar a sus pasajeros si determinaran que eso salvaría un mayor número de vidas. Eso también parece desagradable. Por el contrario, creemos que nuestro enfoque enmarca las cosas muy bien. Si estos automóviles estuvieran diseñados para garantizar que se cumpliera siempre el deber hacia los demás usuarios de la carretera, el público llegaría a comprender que si siguen las normas, no tienen nada que temer de los vehículos automatizados. Además, incluso si las personas violan su deber de cuidado con el AV, este será programado para utilizar todas sus capacidades para evitar una colisión. Creo que eso debería tranquilizar a la gente porque deja claro que los vehículos autónomos no pesarán sus vidas como parte de algún cálculo utilitario programado. ¿Cómo podría su solución al problema del tranvía afectar el desarrollo audiovisual en el futuro? Nuestras discusiones con filósofos, abogados e ingenieros han llegado a un punto en el que creo que podemos establecer una conexión clara entre lo que exige la ley, cómo nuestro contrato social cumple con nuestras responsabilidades éticas y los requisitos de ingeniería reales que podemos redactar. Entonces, ahora podemos pasarle esto a la persona que programa el AV para implementar nuestro contrato social en código de computadora. Y resulta que cuando se analizan los aspectos fundamentales del deber de cuidado de un automóvil, todo se reduce a unas pocas reglas simples, como mantener una distancia segura y conducir a una velocidad razonable y prudente. En ese sentido, empieza a parecerse un poco a RSS porque básicamente podemos establecer varios márgenes de seguridad alrededor del vehículo. Actualmente, estamos utilizando este trabajo dentro de Ford para desarrollar algunos requisitos para vehículos automatizados. Y lo hemos estado publicando abiertamente para compartirlo con el resto de la industria con la esperanza de que, si otros lo encuentran atractivo, pueda incorporarse a las mejores prácticas.