Descobrindo “pontos cegos” em IA para melhorar a segurança de veículos que dirigem sem ajuda

• Novo modelo baseado em aprendizado de máquina torna os veículos sem motorista mais seguros.
• Ele detecta instâncias em que a IA pode aprender com exemplos que podem gerar erros perigosos no mundo real.

Avanços recentes no campo da inteligência artificial tornaram os veículos autônomos e os robôs autônomos mais inteligentes. Embora ainda estejam em sua infância, os carros sem motorista estão se tornando cada vez mais comuns e podem transformar radicalmente nosso sistema de transporte nos próximos anos.

Recentemente, pesquisadores do MIT e da Microsoft desenvolveram um modelo que pode revelar "pontos cegos" de sistemas autônomos com a ajuda de dados humanos. Ele identifica as instâncias em que esses sistemas autônomos aprendem (a partir de exemplos de treinamento ou simulações) quando podem cometer erros em ambientes do mundo real.

A IA que alimenta carros autônomos, por exemplo, é amplamente treinada em simulação para preparar o veículo para quase todos os cenários possíveis na estrada. No entanto, o sistema às vezes comete erros no mundo real:ele não muda seu comportamento (onde deveria) em certos cenários.

Por exemplo, se um carro sem motorista (não muito treinado) estiver circulando pela rodovia e uma ambulância tocar sua sirene, o carro pode perceber a ambulância apenas como um grande carro branco e não pode parar ou dar passagem para a ambulância ou outra emergência veículos.

Os pesquisadores querem preencher a lacuna entre a simulação e o mundo real, integrando a entrada humana e ajudar os sistemas autônomos a saber melhor o que eles não sabem.

Como o modelo recebe feedback humano?

O sistema autônomo é inicialmente treinado em uma simulação virtual onde mapeia cada situação para a melhor ação. Em seguida, é implantado no mundo real, onde humanos interrompem o sistema sempre que ele executa ações incorretas.

Os humanos podem alimentar dados por meio de correções ou demonstrações. Para fazer correções, uma pessoa pode sentar-se no assento do motorista enquanto o veículo se dirige ao longo de uma rota planejada. Se o sistema realizar ações inadequadas, o humano pode assumir o volante e isso envia um sinal para a IA de que estava realizando ações incorretas e o que deveria fazer naquela situação particular.

Referência:arXiv:1805.08966 | MIT

Alternativamente, os humanos podem treinar o sistema demonstrando / dirigindo o veículo no mundo real. O sistema analisa e compara cada ação humana com o que teria sido feito naquela condição. Cada incompatibilidade (se houver alguma) indica uma ação inaceitável do sistema.

Lidando com pontos cegos

Depois que o treinamento manual termina, o sistema basicamente tem uma lista de ações aceitáveis ​​e inaceitáveis. O objetivo é detectar as situações ambíguas (ou pontos cegos) que a IA tem dificuldade em diferenciar.

Cortesia dos pesquisadores | MIT

Por exemplo, o sistema autônomo pode ter cruzado ao lado de um grande veículo várias vezes sem parar. No entanto, se fizer o mesmo com uma ambulância (que parece exatamente a mesma para a IA), ele recebe um sinal de feedback que representa uma ação inaceitável.

Para lidar com esse tipo de situação, a equipe usou um método de aprendizado de máquina conhecido como algoritmo Dawid-Skene. Ele pega todos os pontos cegos rotulados como 'aceitáveis' e inaceitáveis ​​', os agrega e usa cálculos de probabilidade para detectar padrões nesses rótulos.

O algoritmo então produz um único ponto cego agregado junto com um nível de confiança para cada situação. Ele também gera um mapa de calor que mostra baixa a alta probabilidade de ser um ponto cego para cada situação.

Leia:Novo algoritmo de veículo autônomo pode alterar a faixa de forma agressiva

No mundo real, se o modelo mapeia uma situação como um ponto cego com alta probabilidade, ele pode solicitar a um humano a ação apropriada, permitindo uma execução mais segura. Esse tipo de modelo também pode ajudar os robôs autônomos a prever quando podem realizar ações inadequadas em novas condições.