Veículos autônomos têm dificuldade em detectar pedestres de pele escura

• Carros que dirigem sozinhos são 5% menos precisos na detecção de pessoas de pele escura.
• Isso acontece porque a maioria dos algoritmos de detecção de objetos foi treinada principalmente em conjuntos de dados contendo imagens de pessoas brancas.

Os modelos de aprendizado de máquina começaram a encontrar lares ao longo de nossa vida cotidiana. O campo da direção autônoma, em particular, passou de "pode ​​ser possível" para "agora disponível comercialmente" na última década.

No entanto, esses avanços nos sistemas automatizados levantaram muitas preocupações sobre os carros autônomos nos últimos anos e parece que a lista de preocupações acabou de ficar mais longa. Além de se preocupar com sua segurança e capacidade de enfrentar obstáculos nas estradas, também é necessário se preocupar se os veículos autônomos podem prejudicar pessoas de cor.

Agora, pesquisadores do Georgia Institute of Technology realizaram um estudo no qual concluíram que os algoritmos usados ​​em sistemas de direção autônoma são 5% menos precisos na detecção de pedestres de pele escura.

Taxas de erro mais altas para certos grupos demográficos do que para outros

A equipe começou investigando a precisão dos modelos de detecção de objetos de última geração que são usados ​​principalmente em veículos autônomos. Eles queriam descobrir como exatamente esses modelos detectam pessoas de diferentes grupos demográficos.

Eles analisaram um enorme conjunto de dados contendo fotos de pedestres e dividiram as pessoas com base em seus tons de pele. Eles então examinaram a frequência com que esses modelos identificavam com precisão a presença de pessoas no grupo de pele escura, bem como de pessoas no grupo de pele clara.

Referência:arXiv:1902.11097 | Instituto de Tecnologia da Geórgia

Os pesquisadores descobriram que esses modelos eram 5% menos precisos, em média, na detecção de grupos de pele escura. Essa inconsistência permaneceu a mesma, mesmo depois de ajustar alguns parâmetros cruciais, como a visão frequentemente obstruída de pedestres e a hora do dia nas fotos.

O estudo considera apenas modelos usados ​​para fins de pesquisa, que são treinados em conjuntos de dados disponíveis publicamente. Não analisou nenhum modelo que esteja realmente sendo usado por veículos comerciais autônomos. No entanto, isso não significa que as descobertas sejam inestimáveis:estudos como esses fornecem fortes insights sobre falhas e riscos reais.

Razões para algoritmos preconceituosos / racistas

Esta não é a primeira vez que alguém publica um relatório sobre algoritmos tendenciosos. No ano passado, um estudo descobriu que três sistemas de reconhecimento facial desenvolvidos por gigantes da tecnologia (Microsoft, IBM e Megvii) provavelmente identificaram erroneamente o gênero de pessoas de pele escura com mais frequência do que pessoas de pele clara.

Crédito da imagem:Iyad Rahwan

Uma vez que os modelos de inteligência artificial - especialmente aprendizado de máquina e algoritmos de aprendizado profundo - aprendem com os conjuntos de dados de treinamento com que são alimentados, se você não fornecer variedade suficiente de dados, esses modelos não funcionarão com precisão quando implantados no mundo real.

O mesmo vale para carros autônomos:os algoritmos de detecção de objetos foram treinados principalmente em conjuntos de dados contendo imagens de pessoas brancas. Além disso, esses algoritmos não colocam muito peso no aprendizado de conjuntos de dados limitados (pessoas com tons de pele escuros).

Leia:Nova IA para veículos autônomos pode prever o movimento dos pedestres

Os pesquisadores acreditam que esses modelos podem ser melhorados incluindo exemplos racialmente diversos e dando mais ênfase a exemplos limitados durante o treinamento.