Aceleração de IA na Edge: Principais Processadores Especializados para 2024

Cargas de trabalho de IA e machine learning estão migrando cada vez mais para a edge, e uma variedade crescente de processadores surge para atender às diversas demandas dessas aplicações. De gigantes estabelecidos a startups ágeis, cada solução visa verticais específicas, envelopes de potência e pontos de preço. Abaixo, uma visão concisa dos líderes de mercado atuais.

Processadores de Aplicação

Intel Movidius Myriad X

Originalmente desenvolvido pela startup irlandesa Movidius e adquirido pela Intel em 2016, o Myriad X é uma unidade de processamento de visão de terceira geração que introduziu um motor de computação dedicado para redes neurais. Ele oferece 1 TOPS de computação de rede neural profunda (DNN), suporta precisão FP16 e INT8, e é fortemente acoplado a um tecido de memória inteligente para eliminar gargalos de transferência de dados. O chip abriga 16 núcleos SHAVE proprietários e um conjunto aprimorado de aceleradores de visão. Está disponível no Neural Compute Stick 2 da Intel, uma plataforma de avaliação USB plug-and-play que permite implantação rápida de cargas de trabalho de IA e visão computacional em qualquer workstation.

NXP Semiconductors i.MX 8M Plus

O i.MX 8M Plus é um processador de aplicação heterogêneo com um acelerador de rede neural dedicado da VeriSilicon (Vivante VIP8000). Ele oferece 2,3 TOPS para inferência, suportando tarefas como identificação multi-objeto, reconhecimento de fala de 40.000 palavras ou MobileNet v1 a 500 imagens/segundo. Complementando o acelerador, o chip possui um subsistema quad-core Arm Cortex-A53 a 2 GHz e um subsistema em tempo real Cortex-M7. O suporte de visão inclui dois processadores de sinal de imagem de alta definição para câmeras estéreo ou única de 12 MP, enquanto um DSP HiFi4 a 800 MHz trata pré e pós-processamento de voz.

O i.MX 8M Plus da NXP é o primeiro processador de aplicação da empresa com acelerador de rede neural dedicado, voltado para cenários de IoT. (Imagem: NXP Semiconductors)

XMOS xcore.ai

O xcore.ai combina desempenho de processador de aplicação com eficiência em tempo real de microcontrolador, visando dispositivos AIoT controlados por voz. Construído na arquitetura proprietária Xcore da XMOS, o chip compreende 16 núcleos lógicos que podem ser alocados para I/O, DSP, controle ou funções de IA — criando efetivamente um SoC definido por software. Suporta redes neurais de 32, 16, 8 e 1 bit (binarizadas), entregando 3.200 MIPS, 51,2 GMACCs e 1.600 MFLOPS. Com 1 MB de SRAM embarcada e interface DDR de baixo consumo, é adequado para cargas de trabalho de processamento de voz compactas e de baixa latência.

O xcore.ai da XMOS é uma plataforma proprietária versátil projetada para cargas de trabalho de IA centradas em voz. (Imagem: XMOS)

SoC Automotivo

Texas Instruments Inc. TDA4VM

Parte da série Jacinto 7, o TDA4VM é o primeiro SoC da TI com acelerador de deep learning integrado. O acelerador baseia-se no núcleo DSP C7x e em um acelerador personalizado de multiplicação de matriz (MMA), atingindo até 8 TOPS. Projetado para ADAS, pode processar fluxo de câmera frontal de 8 MP ou múltiplas câmeras de 3 MP mais radar, LiDAR e entradas ultrassônicas — permitindo fusão de sensores para estacionamento autônomo e outras funções avançadas de assistência ao motorista. Voltado para orçamentos de potência de 5–20 W, o TDA4VM está disponível como kit de desenvolvimento de pré-produção.

O TDA4VM da TI alimenta sistemas ADAS automotivos complexos, entregando percepção e fusão de sensores em um único chip. (Imagem: Texas Instruments Inc.)

GPU

Nvidia Corp. Jetson Nano

O Jetson Nano da Nvidia traz uma GPU Maxwell de 128 núcleos e uma CPU quad-core Arm Cortex-A57 para dispositivos de edge. Capaz de 0,5 TFLOPS, o módulo pode executar múltiplas redes neurais em fluxos de imagem de alta resolução consumindo apenas 5 W. Integra o CUDA X, suíte de bibliotecas de aceleração de redes neurais da Nvidia, e está disponível em kits de desenvolvimento econômicos.

O Jetson Nano da Nvidia oferece uma GPU poderosa para IA na edge, em formato compacto e de baixo consumo. (Imagem: Nvidia Corp.)

Co-processadores para Consumo

Kneron Inc. KL520

O KL520 é um processador de rede neural dedicado para processamento de imagem e reconhecimento facial em casas inteligentes, sistemas de segurança e dispositivos móveis. Otimizado para redes neurais convolucionais, entrega 0,3 TOPS a 0,5 W (≈0,6 TOPS/W) com eficiência MAC superior a 90%. Sua arquitetura reconfigurável e um compilador que aplica compressão permitem que modelos maiores caibam nos recursos do chip, reduzindo consumo e custo. O KL520 está disponível no cartão acelerador AAEON M2AI-2280-520.

O KL520 da Kneron combina design reconfigurável com técnicas de compressão para processamento de imagem móvel eficiente. (Imagem: Kneron Inc.)

Gyrfalcon Lightspeeur 5801

Voltado para eletrônicos de consumo, o Lightspeeur 5801 atinge 2,8 TOPS a 224 mW (≈12,6 TOPS/W) com latência de 4 ms, graças a uma arquitetura processador-em-memória que oferece excelente eficiência energética. Seus 10 MB de memória on-chip acomodam modelos completos, e a velocidade de clock pode ser ajustada entre 50 MHz e 200 MHz para trocar potência por desempenho. O 5801 alimenta o smartphone LG Q70 de gama média, lidando com inferência para efeitos de câmera, e está disponível como kit de desenvolvimento USB thumb-drive.

Ultra-Baixo Consumo

Eta Compute ECM3532

O ECM3532 é voltado para dispositivos IoT alimentados por bateria ou coleta de energia que requerem inferência sempre ligada. Ele combina um microcontrolador Arm Cortex-M3 com um DSP NXP CoolFlux, e usa uma técnica proprietária de escalonamento de tensão/frequência que otimiza o consumo por ciclo de clock. Cargas de trabalho de machine learning — particularmente tarefas de voz — podem rodar em qualquer um dos núcleos. Amostras estão disponíveis agora, com produção em massa prevista para Q2 2020.

Syntiant Corp. NDP100

O NDP100 é um silício processador-em-memória projetado para inferência de comandos de voz sob orçamentos de potência rigorosos. Consumindo menos de 140 µW ativos, suporta detecção de palavra-chave, wake-word, identificação de locutor e classificação de eventos. Destina-se a dispositivos de consumo hands-free como earbuds, aparelhos auditivos, smartwatches e controles remotos, com kits de desenvolvimento disponíveis.

O NDP100 da Syntiant oferece processamento de voz de ultra-baixo consumo para IoT de consumo. (Imagem: Syntiant Corp.)

GreenWaves Technologies GAP9

O GAP9 é um processador de aplicação de ultra-baixo consumo com nove núcleos RISC-V e conjunto de instruções personalizado para eficiência energética. Inclui interfaces de áudio multi-canal bidirecionais e 1,6 MB de RAM interna. O GAP9 roda MobileNet V1 em imagens 160×160 em 12 ms consumindo apenas 806 µW por frame, tornando-o ideal para aplicações de sensoriamento de imagem, áudio e vibração alimentadas por bateria.