Algoritmos AI à prova de erros

Glitches com câmeras de visão de máquina, sensores não calibrados ou sombras imprevisíveis podem levar a erros potencialmente caros e perigosos em sistemas de IA industriais. No entanto, os pesquisadores estão desenvolvendo algoritmos à prova de erros, bem como medidas simples que podem ser tomadas para reduzir a probabilidade de erro.

A inteligência artificial evoluiu muito além da rede neural artificial perceptron básica, mas o erro continua sendo um problema. Imagem usada cortesia de Pixabay

Aplicações industriais para inteligência artificial

Existem inúmeras aplicações industriais para IA (inteligência artificial), como plataformas robóticas, manuseio de materiais, embalagem, tratamento de máquinas, montagem, inspeção e BAS (sistemas de automação predial). Exemplos mais específicos incluem tecnologia de drones e enxames para classificar, mover e transportar itens ou detectar anomalias nos processos de produção.

A IA se tornou um aspecto crítico, mas frequentemente esquecido, da automação industrial, dependente de visão de máquina, braços robóticos, sensoriamento remoto e controle de processo.

No entanto, as ferramentas de IA não são uma simples caixa preta na qual os dados são fornecidos como entrada e transformados em saída precisa. Às vezes, a saída está errada e isso é uma fonte de preocupação.

Tipos de erros em aplicações industriais

Os computadores fazem o que lhes é dito para fazer, portanto, o ser humano está na raiz de todos os erros. Pode ser um erro de projeto, um erro de algoritmo, um erro de engenharia ou dados ruins, mas haverá um ser humano na raiz.

Isso também se aplica a IA, incluindo IA industrial. Os erros na IA industrial podem cair em uma de duas categorias:polarização algorítmica e polarização da máquina.

O enviesamento do algoritmo envolve erros que são repetíveis e sistêmicos. Esses erros podem se manifestar de várias maneiras diferentes:erro inerente na lógica do algoritmo, uso imprevisto da saída do algoritmo ou problemas com os dados fornecidos ao sistema de IA.

A polarização da máquina ocorre quando um conjunto de dados limitado é usado para treinar o sistema, levando a uma saída errônea.

A importância de manter o erro de IA sob controle

Como um exemplo de tendência algorítmica, considere um sistema de visão de máquina habilitado para IA usado para sistemas de controle de qualidade automatizados. Tal aplicação depende muito de medições precisas fornecidas como dados ao AI, determinando se a peça está dentro das tolerâncias. Se medições imprecisas forem fornecidas ao AI, isso resultará em etiquetagem incorreta das peças.

Os algoritmos por trás da visão de máquina AI podem ser 100% corretos, mas dados ruins significam saída ruim. As peças aceitáveis ​​podem ser descartadas, enquanto as peças de baixa qualidade podem ser enviadas aos clientes. Isso leva a custos desnecessários e tempo de inatividade, pois a origem do problema é rastreada.

O iRVision 3DL da FANUC usa lasers e IA para verificar as condições da superfície de uma peça. Imagem usada cortesia de FANUC

Alguns sistemas de IA que requerem treinamento antes do uso em um ambiente ou aplicativo específico. Nesses casos, os dados de treinamento fornecidos ao sistema são extremamente importantes. Por exemplo, se um sistema recebe treinamento limitado às condições em uma área iluminada, haverá problemas quando o sistema deve funcionar sem luz.

AI à prova de erros (AI de treinamento)

Como há um elemento humano por trás da IA ​​e do aprendizado de máquina, ele não pode ser à prova de erros. Existem, no entanto, maneiras de minimizar o erro nos sistemas de IA. Um exemplo inclui CARRL (Certified Adversarial Robustness for Deep Reinforcement Learning), um algoritmo de aprendizagem profunda desenvolvido no MIT cujo objetivo é auxiliar sistemas autônomos, incentivando um nível de ceticismo sobre os dados que leva em consideração, como ruído nos dados e esforços adversários para confundir o sistema.

Carnegie Mellon também está trabalhando em um algoritmo de IA para modelos de aprendizado profundo. Chamado RATT (Randomly Assign, Train and Track), essa abordagem usa dados de treinamento não rotulados e barulhentos para estabelecer um limite superior para o verdadeiro risco de erro. Este limite superior pode então determinar quão bem um modelo de IA se adapta aos novos dados de entrada. Além disso, os pesquisadores de Princeton têm pesquisado algoritmos que permitirão a um sistema de IA aprender com eficácia quando houver erros nos dados de treinamento.

Existem também padrões em desenvolvimento que afetarão os esforços de prevenção de erros. O NIST (Instituto Nacional de Padrões e Tecnologia) está contribuindo ativamente para os padrões de IA que incluem um foco na avaliação da confiabilidade da tecnologia de IA. O NIST também propôs uma abordagem para reduzir o risco de viés em sistemas de IA.

A CISA dos Estados Unidos (Cibersegurança e Agência de Segurança de Infraestrutura) já está procurando padrões para examinar algoritmos de IA e coleta de dados, conforme revelado durante um painel de 2020 intitulado “Genius Machines”. Este esforço, junto com o do NIST, enfatiza a responsabilidade.

Erro de resolução em sistemas AI

Embora a prova de erros dos sistemas de IA pelos quais você é responsável possa não ser possível devido ao elemento humano envolvido, certamente existem maneiras de minimizar a possibilidade de erros.

Se você suspeitar que erros estão vindo de seu sistema de IA, não culpe automaticamente o algoritmo; em vez disso, estude os erros para procurar um padrão. Por exemplo, se for um robô coletor autônomo cometendo erros, veja se há algo em comum que os itens classificados incorretamente têm ou se há mudanças no ambiente do robô (iluminação, sombras, etc.) que podem afetar seu desempenho . Também pode haver um problema com lentes de câmera sujas na parte de visão de máquina do sistema, como as encontradas em robôs móveis autônomos.

Muitas câmeras de visão de máquina têm sistemas integrados de IA, como o FLIR Firefly DL, mas esses sistemas podem gerar erros se não forem mantidos limpos e configurados corretamente. Imagem usada cortesia de FLIR

Uma regra rígida de programação é que uma entrada incorreta sempre resultará em uma saída incorreta. O primeiro passo para minimizar o erro gerado por um sistema de IA industrial é garantir que seus dados sejam o mais precisos possível, começando pelos sensores. Os sensores que fornecem dados de entrada para sistemas AI devem ser calibrados regularmente.

As ferramentas dentro do sistema de IA que permitem aos usuários definir faixas aceitáveis ​​para os dados devem ser implementadas após uma consideração cuidadosa de uma faixa aceitável:muito restrita e a IA não fornecerá muito valor; muito solto e gera muitos erros. E lembre-se, esses valores podem ser ajustados.

Além disso, como mencionado anteriormente, mantenha todas as câmeras limpas. Embora os sistemas de visão mecânica sejam projetados para serem robustos em várias condições ambientais, isso não significa que ainda terão um bom desempenho quando a visão for comprometida por lentes sujas. O mesmo é verdadeiro para outros sensores industriais cuja precisão pode ser comprometida por um aumento de incrustação, exposição a ambientes corrosivos, problemas mecânicos ou envelhecimento.

A IA é amplamente utilizada no setor industrial para tudo, desde controles de processo a inspeções de qualidade. E por causa do fator humano envolvido, esses sistemas de IA também estão sujeitos a erros. Algoritmos à prova de erros estão sendo desenvolvidos, mas esses métodos não estão totalmente maduros, nem foram exaustivamente testados em aplicações industriais. E embora organizações como NIST e CISA estejam trabalhando em direção a padrões à prova de erros, eles ainda estão em desenvolvimento. No entanto, algumas medidas simples podem reduzir a probabilidade de erro em seus sistemas de IA.