Quem Carros Autônomos Devem Sacrificar: Pedestres ou Passageiros?

Estamos entrando em uma era onde máquinas são encarregadas não apenas de minimizar danos, mas também de distribuir os danos que não podem eliminar. A distribuição de danos (bem como o bem-estar que a máquina cria) geralmente cria tradeoffs, cuja resolução cai no domínio moral.

Considere uma situação onde um veículo autônomo está prestes a colidir e não pode avaliar um caminho que salvaria todos. Em tais casos, veículos precisarão decidir como distribuir justamente o risco de dano entre diferentes pessoas na estrada. Estes dilemas morais não podem ser resolvidos por nenhuma lei da robótica ou princípios éticos humanos.

Em 2014, pesquisadores do MIT projetaram um experimento chamado Moral Machine para reunir uma perspectiva humana sobre decisões morais tomadas por máquinas equipadas com IA, como carros autônomos. Até agora, o experimento recebeu mais de 40 milhões de respostas de todo o mundo. Isso oferece insights valiosos sobre as prioridades éticas coletivas de várias culturas.

A Moral Machine testa 13 cenários diferentes onde as pessoas decidem o que veículo autônomo deve priorizar:

• Mais vidas sobre poucas
• Homens sobre mulheres
• Humanos sobre animais de estimação
• Jovens sobre idosos
• Status social mais alto sobre mais baixo
• Saudáveis sobre doentes
• Cumpridores da lei sobre infratores

Pesquisadores analisaram todas as respostas e revelaram como a ética humana varia com base em localização geográfica, economia e cultura.

Descobriram que diferentes países têm preferências diferentes. Por exemplo, pessoas de culturas coletivistas como Japão e China são mais propensas a poupar idosos sobre jovens. Enquanto isso, países com culturas mais individualistas são menos propensos a poupar idosos.

Similarmente, pessoas de culturas individualistas, como EUA e Reino Unido, tendem a poupar mais vidas dadas todas as outras escolhas. Pessoas de países em desenvolvimento com instituições mais fracas são mais tolerantes com pedestres que atravessam fora da faixa versus pedestres que atravessam legalmente.

A preferência por poupar personagens de status mais alto é muito menos pronunciada para países orientais (Japão, Taiwan, Arábia Saudita, Indonésia), e muito maior para países do sul (América Central e do Sul, França).

Países ocidentais e orientais exibem preferência muito maior por poupar humanos sobre animais de estimação, comparados a países do sul.

Limitações

Apesar do grande tamanho da amostra, o estudo tem numerosas limitações. Por exemplo, pesquisadores não consideraram a incerteza sobre os destinos dos personagens. Todos os personagens foram reconhecidos como crianças e adultos com 100% de certeza, e seus resultados de vida e morte foram estimados com 100% de certeza.

Também não introduziram o fator de relacionamento hipotético (por exemplo, cônjuges e parentes) entre respondentes e personagens. Embora estas suposições fossem bastante irreais, eram necessárias para manter o experimento tratável.

Podemos não chegar a acordo universal, mas estes resultados podem ser usados por empresas de tecnologia e fabricantes de carros para entender melhor como o público reagiria à ética de diferentes decisões de design e política.