O chip AI suporta inferência em dispositivos de ultra-baixa energia

LONDRES - A próxima geração do acelerador de ultrabaixa energia AI do GreenWaves, GAP9, usará cinco vezes menos energia do que seu predecessor, GAP8, enquanto lida com algoritmos que são 10 vezes maiores. O novo dispositivo oferecerá até 50 GOPS com um consumo geral de energia de 50mW. Isso se deve a uma combinação de melhorias arquitetônicas e uma nova tecnologia de processo FD-SOI (silício totalmente empobrecido no isolador) de última geração.

Como o dispositivo da geração anterior, o GAP9 visa a inferência de IA em sistemas na extremidade da rede, como pequenos nós sensores de IoT alimentados por bateria. Como exemplo, as figuras da GreenWaves têm GAP9 executando MobileNet V1 em imagens de 160 x 160 com uma escala de canal de 0,25 em apenas 12 ms com um consumo de energia de 806 μW / quadro / segundo.

A GreenWaves, com sede em Grenoble, França, escolheu o processo FDX FD-SOI de 22 nm da GlobalFoundries para minimizar o consumo de energia do que já era uma arquitetura de ultra-baixo consumo de energia.

“Para o GAP9, ajustamos a arquitetura GAP8 usando o feedback do cliente no GAP8, mas, ao mesmo tempo, mudamos para um processo de semicondutor líder de mercado”, disse Martin Croome, vice-presidente de marketing da GreenWaves. “Estamos usando a capacidade de polarização do corpo em FD-SOI para nos permitir atingir um consumo de energia ainda menor.”

Melhorias arquitetônicas

GreenWaves fez vários avanços arquitetônicos para GAP9.

Mais um núcleo RISC-V foi adicionado, elevando o total para 10. Um núcleo é usado como um controlador de malha, bem como para computação de baixa intensidade em certos modos. Os outros nove formam um cluster de computação com uma área de dados L1 compartilhada. Um núcleo neste cluster (o novo) é usado como um mestre do grupo de tarefas, calculando movimentos de memória e gerenciando tarefas nos outros oito núcleos.

A RAM interna foi triplicada para 1,6 MB e a largura de banda da memória foi aumentada para 41,6 GB / s para L1 e 7,2 GB / s para L2.

“Essa [largura de banda da memória] agora é muito significativa para um dispositivo da classe MCU”, disse Croome.

A arquitetura do chip AI de ultra-baixa potência GAP9 da GreenWaves agora usa 10 núcleos RISC-V (Imagem:GreenWaves)

As mudanças na arquitetura GAP9 também incluem uma frequência superior muito mais alta; GAP8 com clock de 175 MHz, GAP9 será executado em ou perto de 400 MHz. Novos estados de energia também foram adicionados, incluindo um estado “sonolento” quando os dados podem ser adquiridos, mas o consumo de energia ainda está abaixo de 1 mW. Nesse estado, o processador pode funcionar em um regulador de baixa queda (LDO), que pode inicializar rapidamente. Isso reduz o tempo do GAP9 para a primeira instrução para apenas alguns microssegundos (o GAP8 levou cerca de 700 µs enquanto esperava o conversor DC-DC se estabilizar, disse Croome). Esse recurso de inicialização rápida é útil ao capturar sinais com base no tempo, como a fala.

Todos os dez núcleos agora são capazes de lidar com números de ponto flutuante de "transprecisão":formato IEEE de ponto flutuante de 16 e 32 bits mais formatos adicionais de 8 e 16 bits com suporte para vetorização. Esse recurso pode ser usado para reduzir os requisitos de energia para algoritmos que requerem ponto flutuante. O GAP9 também oferece suporte a operações vetorizadas de 4 e 2 bits para aplicativos que exploram níveis profundos de quantização.

Outros novos recursos incluem interfaces de áudio multicanais bidirecionais.

Espera-se que o GAP9 alcance a produção em massa em 2021, com amostras chegando no primeiro semestre de 2020. Croome disse que o preço deverá ser de 50% a mais em comparação com o GAP8. Dados os diferentes prazos, valores de potência e faixa de preço, a empresa espera que ambos os produtos encontrem mercados no futuro.