[Segurança] Devemos atropelar os idosos ou as crianças?

Um dos desafios éticos na construção dos veículos autônomos, ou talvez o maior desafio, é como deve ser tomada uma decisão em caso de risco aonde as duas opções são igualmente ruins.

Imagina a seguinte situação: você está dentro de seu carro autônomo, sem controle da direção. De repente, uma criança atravessa correndo na sua frente. O seu carro pode desviar dela, mas consequentemente ele vai sair da pista e atropelar um pedestre, ou bater em uma árvore.

E aí, #comofaz?

Esse caso, clássico, é conhecido como "Dilema do bonde" ("Trolley problem" em Inglês), que explora como os seres humanos tomam decisões éticas em situações de vida ou morte:

"Um bonde está fora de controle em uma estrada. Em seu caminho, cinco pessoas amarradas na pista por um filósofo malvado. Felizmente, é possível apertar um botão que encaminhará o bonde para um percurso diferente, mas ali, por desgraça, se encontra outra pessoa também atada. Deveria apertar-se o botão?"

Li recentemente um artigo que citou um experimento aonde os entrevistados receberam duas opções de colisão, uma em que duas crianças correram para a estrada e outra em que iriam atingir dois pedestres idosos na calçada. O resultado foi o seguinte:

• Mais da metade dos entrevistados (59%) disseram que se não tivessem outra opção, preferiam que o veículo optasse pela solução que colocasse o motorista (o próprio entrevistado) em perigo, sem arriscar mais vidas
• 5% (um em cada 20 entrevistados) concordou que o veículo deveria atingir outra pessoa;
• Os demais se sentiram incapazes de determinar qual ação o carro deveria tomar em qualquer cenário.

Um caso interessante aconteceu no início de 2018, em um acidente fatal durante os testes de um carro autônomo da Uber. O carro identificou uma pedestre atravessando na sua frente, em condições de baixa luminosidade, mas não evitou a colisão porque considerou um falso-positivo! Há também notícias de que, naquele teste, o carro não estava programado para desviar de forma autônoma.

O dilema é interessante e ainda deve dar muito pano para manga...

Vale a pena ler:

• Verbete "Trolley problem" na Wikipedia em Inglês
• "The Trolley Problem Is the Internet’s Most Philosophical Meme"