Um veículo autônomo deve matar o pedestre ou o passageiro?

• Os pesquisadores elaboram um experimento para reunir uma perspectiva humana sobre as decisões morais feitas pela inteligência artificial.
• Eles analisaram milhões de respostas humanas e revelaram o quanto a ética varia entre as culturas.

Estamos entrando em uma era em que as máquinas têm a tarefa não apenas de minimizar os danos, mas também de distribuir os danos que não podem eliminar. A distribuição do dano (assim como o bem-estar que a máquina cria) geralmente cria compensações, cuja resolução cai dentro do domínio moral.

Considere uma situação em que um veículo autônomo está prestes a bater e não consegue avaliar um caminho que salvaria a todos. Nesses casos, os veículos precisarão decidir como distribuir de forma justa o risco de danos entre as diferentes pessoas na estrada. Esses dilemas morais não podem ser resolvidos por nenhuma lei da robótica ou princípios éticos humanos.

Em 2014, pesquisadores do MIT projetaram um experimento chamado Moral Machine para reunir uma perspectiva humana sobre as decisões morais feitas por máquinas equipadas com IA, como carros autônomos. Até agora, o experimento recebeu mais de 40 milhões de respostas de todo o mundo. Isso oferece percepções valiosas sobre as prioridades éticas coletivas de várias culturas.

A Máquina Moral testa 13 cenários diferentes onde as pessoas decidem qual veículo autônomo deve priorizar:

• Mais vidas por menos
• Homens sobre mulheres
• humanos sobre animais de estimação
• jovem sobre velho
• status social superior em relação ao inferior
• ajuste sobre insalubre
• seguidor da lei sobre infrator

Os pesquisadores analisaram todas as respostas e revelaram como a ética humana varia com base na localização geográfica, economia e cultura.

Eles descobriram que países diferentes têm preferências diferentes. Por exemplo, pessoas de culturas coletivistas como Japão e China têm maior probabilidade de poupar os velhos em vez dos jovens. Por outro lado, países com culturas mais individualistas têm menos probabilidade de poupar as antigas.

Referência:Natureza | DOI:10.1038 / s41586-018-0637-6 | Máquina Moral

Da mesma forma, pessoas de culturas individualistas, como os Estados Unidos e o Reino Unido, tendem a poupar mais vidas devido a todas as outras opções. Pessoas de países em desenvolvimento com instituições mais fracas são mais tolerantes com os pedestres que atravessam ilegalmente do que com os que cruzam legalmente.



A preferência por poupar caracteres de status superior é muito menos pronunciada para os países do Leste (Japão, Taiwan, Arábia Saudita, Indonésia) e muito maior para os países do Sul (América Central e do Sul, França).

Os países ocidentais e orientais exibem uma preferência muito maior por poupar humanos em vez de animais de estimação, em comparação com os países do sul.

Limitações

Apesar do grande tamanho da amostra, o estudo tem inúmeras limitações. Por exemplo, os pesquisadores não consideraram a incerteza sobre o destino dos personagens. Todos os personagens foram reconhecidos como crianças e adultos com 100% de certeza, e seus desfechos de vida e morte foram estimados com 100% de certeza.

Eles também não introduziram o fator de relacionamento hipotético (por exemplo, cônjuges e parentes) entre entrevistados e personagens. Embora essas suposições fossem bastante irrealistas, eram necessárias para manter o experimento tratável.

Leia:Veículos autônomos têm dificuldade em detectar pedestres de pele escura

Podemos não chegar a um acordo universal, mas esses resultados podem ser usados ​​por empresas de tecnologia e fabricantes de automóveis para entender melhor como o público reagiria à ética de diferentes projetos e decisões políticas.