Carros Autônomos Têm 5% Menos Precisão na Detecção de Pedestres de Pele Escura — Viés nos Dados de Treino
Estudo Revela Viés Racial em Algoritmos de Detecção de Objetos de Veículos Autônomos
Pesquisadores do Georgia Institute of Technology concluíram: algoritmos de direção autônoma são 5% menos precisos na detecção de pedestres de pele escura. Causa: maioria dos algoritmos treinada em datasets com maioria de imagens de pessoas brancas.
Taxas de Erro Mais Altas para Certos Grupos Demográficos
Equipe investigou acurácia de modelos state-of-the-art de detecção de objetos (usados em pesquisa, datasets públicos). Analisaram dataset massivo de pedestres, separaram por tons de pele. Verificaram frequência de identificação correta em grupos de pele clara vs. escura.
Descoberta: modelos 5% menos acurados em média para grupo de pele escura. Inconsistência persistiu mesmo ajustando parâmetros cruciais (visão obstruída, hora do dia).
Estudo não analisou modelos comerciais reais, mas fornece insights fortes sobre falhas e riscos reais.
Por Que Algoritmos Viesados/Racistas?
Não é primeira vez: 2018, estudo mostrou 3 sistemas de reconhecimento facial (Microsoft, IBM, Megvii) erravam mais gênero de pessoas de pele escura.
Modelos de IA (especialmente ML/deep learning) aprendem dos dados de treino. Se não há variedade suficiente, não funcionam bem no mundo real. Mesmo para carros autônomos: algoritmos treinados majoritariamente em imagens de pessoas brancas; pouco peso dado a exemplos limitados (pele escura).
Pesquisadores acreditam que modelos melhoram com: exemplos racialmente diversos e maior ênfase em exemplos limitados durante treino.
Referência: arXiv:1902.11097 | Georgia Institute of Technology
Tecnologia industrial
- Indústria 4.0: A Verdadeira Revolução Está nos Modelos de Negócio
- Cobots Permitem Donnelly Custom Manufacturing Otimizar Equilíbrio Pessoas-Automação
- Intel Define Meta Ambiciosa: Implantar 100 Veículos Autônomos Globalmente Até Fim do Ano
- Descubra Sua Chave de Segurança de Rede: Passos Fáceis para Encontrar e Proteger Seu Wi‑Fi
- Desvendando Pontos Cegos da IA para Aumentar a Segurança de Veículos Autônomos
- IA Prevê Movimentos de Pedestres para Carros Autônomos Mais Seguros
- IA Revela: Fumar Acelera Envelhecimento Biológico — Homens 1,5×, Mulheres 2× Idade Cronológica
- IA Detecta Uso Indevido de Álcool em Prontuários Clínicos com 78% de Precisão
- Discos Rígidos Convertidos Secretamente em Microfones: Nova Ameaça de Espionagem
- Avanço da IA: Ferramenta Acelerada por GPU Detecta COVID-19 em Imagens de Raio-X