Aumentando a acessibilidade do aprendizado de máquina no limite

"Edge intelligence" está se tornando mais acessível, mesmo para designers sem treinamento formal em ciência de dados, à medida que um novo hardware é disponibilizado.

Nos últimos anos, os dispositivos conectados e a Internet das Coisas (IoT) se tornaram onipresentes em nossa vida cotidiana, seja em nossas casas e carros ou em nosso local de trabalho. Muitos desses pequenos dispositivos estão conectados a um serviço de nuvem - quase todo mundo com um smartphone ou laptop usa serviços baseados em nuvem hoje, seja ativamente ou por meio de um serviço de backup automatizado, por exemplo.

No entanto, um novo paradigma conhecido como "inteligência de ponta" está rapidamente ganhando força no cenário em rápida mudança da tecnologia. Este artigo apresenta inteligência baseada em nuvem, inteligência de ponta e possíveis casos de uso para usuários profissionais para tornar o aprendizado de máquina acessível para todos.

Figura 1. Mudar da computação em nuvem para a computação de ponta abre a possibilidade de construir bilhões de dispositivos que executam software habilitado para ML. Imagem cortesia da NXP.

Termos-chave do aprendizado de máquina

Computação em nuvem

A computação em nuvem, simplesmente, é a disponibilidade de recursos computacionais remotos sempre que um cliente precisar deles.

Para serviços em nuvem pública, o provedor de serviços em nuvem é responsável por gerenciar o hardware e garantir que a disponibilidade do serviço atenda a um determinado padrão e às expectativas do cliente. Os clientes de serviços em nuvem pagam pelo que usam, e o emprego de tais serviços geralmente só é viável para operações de grande escala.

Edge Computing

Por outro lado, a computação de ponta acontece em algum lugar entre a nuvem e a rede do cliente.

Embora a definição de onde exatamente os nós de borda se situam possa variar de aplicativo para aplicativo, eles geralmente estão próximos da rede local. Esses nós computacionais fornecem serviços como filtragem e armazenamento em buffer de dados e ajudam a aumentar a privacidade, fornecem maior confiabilidade e reduzem os custos e latência do serviço em nuvem.

Recentemente, tornou-se mais comum a IA e o aprendizado de máquina complementar os nós de computação de ponta e ajudar a decidir quais dados são relevantes e devem ser enviados para a nuvem para uma análise mais profunda.

Aprendizado de máquina (ML)

O aprendizado de máquina (ML) é um amplo campo científico, mas, nos últimos tempos, as redes neurais (geralmente abreviadas para NN) têm recebido mais atenção ao discutir algoritmos de aprendizado de máquina.

Aplicativos de ML multiclasse ou complexos, como monitoramento e vigilância de objetos, reconhecimento automático de voz e detecção de várias faces, normalmente requerem NNs. Muitos cientistas trabalharam duro para melhorar e otimizar algoritmos NN na última década para permitir que eles funcionassem em dispositivos com recursos computacionais limitados, o que ajudou a acelerar a popularidade e a praticabilidade do paradigma da computação de ponta.

Um desses algoritmos é o MobileNet, um algoritmo de classificação de imagens desenvolvido pelo Google. Este projeto demonstra que redes neurais altamente precisas podem de fato rodar em dispositivos com poder computacional significativamente restrito.

Aprendizado de máquina para mais do que apenas especialistas

Até recentemente, o aprendizado de máquina era voltado principalmente para especialistas em ciência de dados com um profundo conhecimento de ML e aplicativos de aprendizado profundo. Normalmente, as ferramentas de desenvolvimento e suítes de software eram imaturas e desafiadoras de usar.

O aprendizado de máquina e a computação de ponta estão se expandindo rapidamente, e o interesse por essas áreas cresce a cada ano. De acordo com a pesquisa atual, 98% dos dispositivos de ponta usarão aprendizado de máquina até 2025. Essa porcentagem se traduz em cerca de 18 a 25 bilhões de dispositivos que os pesquisadores esperam ter recursos de aprendizado de máquina.

Em geral, o aprendizado de máquina no limite abre portas para um amplo espectro de aplicações, desde visão computacional, análise de fala e processamento de vídeo até análise de sequência.

Alguns exemplos concretos de possíveis aplicações são as travas de portas inteligentes combinadas com uma câmera. Esses dispositivos podem detectar automaticamente uma pessoa que deseja acessar uma sala e permitir a entrada da pessoa quando apropriado.

Soluções de hardware modernas permitem processamento de ML no limite

Devido às otimizações discutidas anteriormente e melhorias de desempenho de algoritmos de rede neural, muitos aplicativos de ML agora podem ser executados em dispositivos incorporados alimentados por MCUs de crossover, como o i.MX RT1170. Com seus dois núcleos de processamento (um núcleo Arm Cortex M7 de 1 GHz e um núcleo Arm Cortex-M4 de 400 MHz), os desenvolvedores podem escolher executar implementações NN compatíveis com restrições de tempo real em mente.

Devido ao seu design dual-core, o i.MX RT1170 também permite a execução de vários modelos ML em paralelo. Os mecanismos de criptografia incorporados adicionais, recursos avançados de segurança e recursos gráficos e multimídia tornam o i.MX RT1170 adequado para uma ampla gama de aplicações. Alguns exemplos incluem detecção de distração do motorista, interruptores de luz inteligentes, travas inteligentes, gerenciamento de frota e muito mais.

Figura 2. Um diagrama de blocos da família de crossover MCU i.MX RT1170. Imagem cortesia da NXP. Clique para ampliar.

O i.MX 8M Plus é uma família de processadores de aplicativos que se concentra em ML, visão computacional, aplicativos multimídia avançados e automação industrial com alta confiabilidade. Esses dispositivos foram projetados com as necessidades de dispositivos inteligentes e aplicativos da Indústria 4.0 em mente e vêm equipados com uma NPU (unidade de processamento neural) dedicada operando em até 2,3 TOPS e até quatro núcleos de processador Arm Cortex A53.

Figura 3. O diagrama de blocos i.MX 8M Plus. Imagem cortesia da NXP. Clique para ampliar.

Os processadores de sinal de imagem integrados permitem que os desenvolvedores utilizem dois sensores de câmera HD ou uma única câmera 4K. Esses recursos tornam a família de dispositivos i.MX 8M Plus viável para aplicações como reconhecimento facial, detecção de objetos e outras tarefas de ML. Além disso, os dispositivos da família i.MX 8M Plus vêm com recursos avançados de aceleração de gráficos 2D e 3D, recursos de multimídia, como suporte para codificação e decodificação de vídeo, incluindo H.265) e 8 entradas de microfone PDM.

Um núcleo adicional Arm Cortex M7 de baixa potência de 800 MHz complementa o pacote. Este núcleo dedicado atende a aplicações industriais em tempo real que requerem recursos de rede robustos, como suporte CAN FD e comunicação Gigabit Ethernet com recursos de TSN.

O ambiente de ferramentas eIQ

Com os novos dispositivos, surge a necessidade de um ecossistema de desenvolvimento fácil de usar, eficiente e capaz que permita aos desenvolvedores criar sistemas de ML modernos. O ambiente de desenvolvimento de software eIQ ML abrangente da NXP foi projetado para ajudar os desenvolvedores na criação de aplicativos baseados em ML.

O ambiente de ferramentas eIQ inclui mecanismos de inferência, compiladores de rede neural e bibliotecas otimizadas para permitir o trabalho com algoritmos de ML em microcontroladores NXP, MCUs de crossover i.MX RT e a família i.MX de SoCs. As tecnologias de ML necessárias estão acessíveis aos desenvolvedores por meio de SDKs da NXP para o IDE MCUXpresso e Yocto BSP.

O próximo kit de ferramentas eIQ adiciona uma GUI acessível; Portal e fluxo de trabalho eIQ, permitindo que desenvolvedores de todos os níveis de experiência criem aplicativos de ML.

Figura 4. Kit de ferramentas eIQ e Portal eIQ com fluxos de trabalho BYOD e BYOM e escolha de mecanismos de inferência eIQ. O eIQ Toolkit auxilia os desenvolvedores de todos os níveis de experiência ao trabalhar para implantar aplicativos de ML em dispositivos NXP. Imagem cortesia da NXP.

Os desenvolvedores podem escolher seguir um processo chamado BYOM (traga seu próprio modelo), onde os desenvolvedores constroem seus modelos treinados usando ferramentas baseadas em nuvem e depois os importam para o ambiente de software eIQ Toolkit. Então, tudo o que resta a fazer é selecionar o mecanismo de inferência apropriado no eIQ. Ou o desenvolvedor pode usar as ferramentas baseadas em GUI do Portal eIQ ou interface de linha de comando para importar e curar conjuntos de dados e usar o fluxo de trabalho BYOD (traga seus próprios dados) para treinar seu modelo dentro do eIQ Toolkit.

Aprendizado de máquina no limite para todos

A maioria dos consumidores modernos está familiarizada com a computação em nuvem. No entanto, nos últimos anos, um novo paradigma conhecido como computação de ponta teve um aumento no interesse.

Com esse paradigma, nem todos os dados são enviados para a nuvem. Em vez disso, nós de extremidade, localizados em algum lugar entre o usuário final e a nuvem, fornecem poder de processamento adicional. Esse paradigma tem muitos benefícios, como maior segurança e privacidade, redução da transferência de dados para a nuvem e menor latência.

Mais recentemente, os desenvolvedores costumam aprimorar esses nós de extremidade com recursos de aprendizado de máquina. Isso ajuda a categorizar os dados coletados e filtrar resultados indesejados e informações irrelevantes. Adicionar ML à borda permite muitos aplicativos, como detecção de distração do motorista, interruptores de luz inteligentes, bloqueios inteligentes, gerenciamento de frota, vigilância e categorização e muito mais.

Os aplicativos de ML têm sido tradicionalmente projetados exclusivamente por especialistas em ciência de dados com um profundo conhecimento de ML e aplicativos de aprendizado profundo. O NXP oferece uma variedade de dispositivos baratos, porém poderosos, como o i.MX RT1170 e o i.MX 8M Plus, e o ambiente de desenvolvimento de software eIQ ML para ajudar a abrir o ML para qualquer designer. Este hardware e software tem como objetivo permitir que os desenvolvedores criem aplicativos de ML à prova de futuro em qualquer nível de experiência, independentemente do tamanho do projeto.

Artigos do setor são uma forma de conteúdo que permite aos parceiros do setor compartilhar notícias, mensagens e tecnologia úteis com os leitores do All About Circuits de uma forma que o conteúdo editorial não é adequado. Todos os artigos da indústria estão sujeitos a diretrizes editoriais rígidas com a intenção de oferecer aos leitores notícias úteis, conhecimentos técnicos ou histórias. Os pontos de vista e opiniões expressos nos Artigos da Indústria são do parceiro e não necessariamente da All About Circuits ou de seus redatores.