Incorporando IA em Microcontroladores: Desbloqueando o Potencial do TinyML

Quando a inteligência artificial encontra a Internet das Coisas, o resultado é AIoT — uma fronteira expansiva para microcontroladores que aproveita avanços em compressão de redes neurais e inferência eficiente. Processadores de aplicação de smartphones modernos já realizam tarefas sofisticadas de IA como reconhecimento de imagem e engines de recomendação; trazer capacidades semelhantes para dispositivos minúsculos alimentados por bateria desbloqueia um mundo de novas possibilidades.

Imagine um aparelho auditivo que filtra ruído de fundo com IA, um eletrodoméstico inteligente que reconhece o rosto do usuário e aplica configurações personalizadas, ou nós de sensores que rodam por anos com uma bateria de moeda — todos processados localmente. O processamento na edge entrega menor latência, segurança mais forte e privacidade aprimorada, vantagens difíceis de superar.

O Cortex-M55 da Arm combinado com o acelerador Ethos-U55 entrega throughput suficiente para cargas de trabalho de reconhecimento de gestos, biométrico e de fala (Imagem: Arm).

No entanto, implantar machine learning significativo em microcontroladores não é trivial. Memória e recursos computacionais limitados dificultam a execução de modelos grandes, mas equipes de ciência de dados estão encolhendo pegadas de rede enquanto fornecedores fornecem toolchains cientes de hardware e blocos de IP dedicados para atender às restrições de IA embarcada.

TinyML Decola

O rápido crescimento do TinyML é evidente no crescente TinyML Summit. O evento inaugural no Vale do Silício atraiu 11 patrocinadores; o segundo summit atraiu 27 e esgotou semanas antes. Meetups globais para designers também viram aumento dramático na participação.

"Estamos entrando em uma era de trilhões de dispositivos inteligentes alimentados por TinyML que sentem, analisam e agem autonomamente para criar ambientes mais saudáveis e sustentáveis", disse Evgeni Gousev, Diretor Sênior da Qualcomm e co-presidente do Comitê TinyML, durante uma conferência recente. Gousev destacou a sinergia de hardware eficiente em energia, algoritmos simplificados e ecossistemas de software maduros como motor por trás de investimentos corporativos e de venture capital, atividade de startups e M&A.

O ECM3532 da Eta Compute usa núcleo Arm Cortex-M3 junto com DSP CoolFlux da NXP, permitindo que a carga de trabalho de machine learning rode em qualquer um ou ambos os processadores (Imagem: Eta Compute).

Segundo o Comitê TinyML, a tecnologia agora está validada e IA baseada em microcontroladores productizada deve chegar ao mercado em dois a três anos, com aplicações "killer" emblemáticas chegando em três a cinco anos.

Um marco chave ocorreu na primavera passada quando o Google lançou o TensorFlow Lite for Microcontrollers. O runtime leve — apenas 16 KB em um Arm Cortex-M3 — suporta inferência para modelos como detecção de palavra-chave de fala, exigindo uma pegada total de 22 KB. Treinamento não é suportado.

Grandes Players Respondem

Principais fornecedores de microcontroladores estão acelerando seu próprio suporte de IA. A STMicroelectronics oferece STM32Cube.AI, um pacote de extensão que mapeia e roda redes neurais em sua família STM32 Cortex-M. A Renesas Electronics fornece um ambiente de desenvolvimento e-AI que traduz modelos em código C/C++ nativo para seu e2 studio. A NXP Semiconductors demonstra cargas de trabalho de machine learning em seus MCUs Kinetis e LPC de entrada e está expandindo seu ecossistema de IA através de processadores de aplicação e soluções crossover.

Domínio Arm

A série Cortex-M da Arm continua sendo a pedra angular do mercado de microcontroladores. O recém-anunciado Cortex-M55 é projetado para cargas de trabalho de IA e combina perfeitamente com o acelerador Ethos-U55, ambos desenhados para ambientes de ultra-baixo consumo. Empresas concorrentes agora focam em diferenciação arquitetural em vez de construir SoCs baseados em Arm.

"Competir contra os gigantes requer uma vantagem arquitetural — desempenho e flexibilidade além do Cortex-M padrão", disse Mark Lippett, CEO da XMOS. O processador crossover Xcore.ai da XMOS, visando interfaces de voz, ilustra como um núcleo diferenciado pode abrir aplicações de nicho, embora não compita diretamente com microcontroladores.

>> Continue lendo a página dois deste artigo originalmente publicado em nosso site irmão, EE Times Europe.