Núcleos de braço projetados para dispositivos TinyML

A Arm revelou dois novos núcleos IP projetados para potencializar o aprendizado de máquina em dispositivos de endpoint, dispositivos IoT e outros aplicativos de baixo consumo e de baixo custo. O núcleo do microcontrolador Cortex-M55 é o primeiro a usar a tecnologia de processamento vetorial de hélio da Arm, enquanto o acelerador de aprendizado de máquina Ethos-U55 é uma microconversão da família Ethos NPU (unidade de processamento neural) existente da empresa. Os dois núcleos são projetados para serem usados ​​juntos, embora também possam ser usados ​​separadamente.

A habilitação de IA e aplicativos de aprendizado de máquina em microcontroladores e outros dispositivos com recursos limitados e de baixo consumo de energia é conhecida como setor tinyML. Com o surgimento do 5G, iniciando uma tendência por mais inteligência em dispositivos terminais, espera-se que o tinyML cresça exponencialmente em um mercado que abrange bilhões de sistemas industriais e de consumo.

“Quando olharmos para trás, daqui a cinco anos, podemos todos concordar que esta época marcou uma verdadeira mudança de paradigma na computação”, disse Thomas Ensergueix, diretor sênior de IoT e Embedded, Arm. “Vimos dentro de alguns anos como a IA revolucionou a forma como a análise de dados é executada na nuvem, a maioria de nós tem um smartphone com IA aumentada em nossos bolsos e agora aqui está a próxima etapa, nos preparando para IA em todos os lugares.”

Dispositivos domésticos inteligentes, como alto-falantes inteligentes, serão cada vez mais capazes de realizar inferências de aprendizado de máquina (Imagem:Sebastian Scholz / Unsplash)

O aprendizado de máquina, incluindo aplicativos de reconhecimento de voz e visão computacional, ocorrerá cada vez mais no microcontrolador. Uma gama de alternativas de microcontroladores está surgindo, com base nos núcleos da Arm e outros, que a Arm tem como objetivo com esses dois novos núcleos.

“Sabemos que todos esses dados no nível do endpoint não podem voltar para a nuvem”, disse Ensergueix. “As câmeras de vídeo em casa ou na cidade inteligente criam literalmente gigabytes de dados por dia e a infraestrutura não foi construída para esse fluxo de dados upstream. Estamos convencidos de que o que precisamos para dimensionar bilhões ou trilhões de endpoints de IoT, precisaremos do recurso de inferência de IA diretamente no endpoint de IoT. E precisa ser seguro. ”

Cortex-M55

A mais recente adição à conhecida série Cortex-M da Arm para microcontroladores, o Cortex M-55 foi projetado para ser o núcleo Cortex-M com maior capacidade de IA da Arm.

O M55 é o primeiro a usar a nova tecnologia de processamento vetorial de hélio da Arm, que promete desempenho DSP 5x mais rápido e desempenho ML 15x mais rápido, em comparação com as gerações anteriores do Cortex-M. Com base na arquitetura Armv8.1-M, ​​instruções personalizadas podem ser criadas para otimizar o processador para cargas de trabalho específicas, talvez para espremer até a última gota de energia.

A combinação do M55 e do U55 aproveita a potência do DSP aumentada do M55, que pode ser usada para pré-processamento de sinal. No entanto, o M55 pode executar cargas de trabalho de rede neural sozinho. Ele apresenta instruções dedicadas para números INT8, incluindo produto escalar, que é comumente usado em aplicativos de aprendizado de máquina.

Um aplicativo AIoT bem-sucedido "depende não apenas de um bom desempenho de computação, mas também de ser capaz de obter os dados certos, os coeficientes certos e os pesos de aprendizado de máquina certos no momento certo, então a interface de memória do processador foi otimizada para ser capaz de lidar com todos os dados de entrada e saída. É muito mais capaz do que qualquer outro núcleo Cortex-M neste aspecto ”, disse Ensergueix.

A combinação de Cortex-M55 e Ethos-U55 tem poder de processamento suficiente para aplicações como reconhecimento de gestos, biometria e reconhecimento de fala (Imagem:Braço)

Ethos-U55

O Ethos-U55 está sendo anunciado como o primeiro ‘micro-NPU’ da Arm, oferecendo até 0,5 TOPS de aceleração (com base em geometrias menores, como 16 ou 7 nm, rodando a 1 GHz). Arm ainda não divulgou números de eficiência de energia (TOPS / W). É configurável - podem ser usadas de 32 a 256 unidades de multiplicação-acumulação (MACs) - e tem um decodificador de peso e acesso direto à memória para descompressão de peso em tempo real.

O Ethos-U55 se junta ao Ethos N77, N57 e N37 que, por comparação, oferecem 4, 2 e 1 TOPS, respectivamente. O desempenho pode ser ampliado usando vários núcleos Ethos.

O Cortex-M55 e o Ethos-U55 são projetados para serem usados ​​juntos, mas também podem ser usados ​​separadamente (Imagem:Braço)

Os dois novos núcleos, M55 e U55, são projetados para serem usados ​​juntos, onde podem processar tarefas de ML 480x mais rápido do que qualquer dispositivo Cortex-M da geração anterior sozinho. Arm diz que os números típicos para um aplicativo de assistente de voz de ponta a ponta usando ML são 50 vezes mais rápidos em comparação com o uso de Cortex-M7 sozinho, e 25 vezes mais na eficiência de energia.

“O Cortex-M executaria o código do sistema do aplicativo e então quando o processamento de uma carga de trabalho da rede neural for necessário, o fluxo de comando para isso é colocado na SRAM, uma interrupção é dada ao U55 e diz, aqui, vá trabalhar nisso fluxo de comando ”, explicou Steve Roddy, vice-presidente do grupo de aprendizado de máquina da Arm. “Isso poderia ser uma única inferência de um único modelo. O U55 é executado até a conclusão, coloca os resultados de volta na SRAM e então deixa o Cortex-M assumir. Ou pode ser o tipo de situação em que você executa continuamente enquanto realiza algum tipo de processamento de dados de streaming, talvez áudio ou vídeo. ”

O silício baseado nesses novos núcleos deve chegar ao mercado no início de 2021.