Imec e GlobalFoundries Revelam Chip Processor-in-Memory de 2900 TOPS/W para IA Ultra-Eficiente

Computação Analógica Revolucionária

A Imec e a GlobalFoundries demonstraram um chip processor-in-memory que atinge eficiência energética de até 2900 TOPS/W, aproximadamente duas ordens de magnitude acima das soluções comerciais atuais. O design aproveita computação analógica dentro de SRAM, construído com o processo 22 nm fully-depleted silicon-on-insulator (FD-SOI) da GlobalFoundries.

A analog in-memory compute (AiMC) da Imec estará disponível para clientes da GlobalFoundries como feature na plataforma 22FDX.

Chip de teste AnIA da Imec, montado no PCB usado para medição, atinge 2900 TOPS/W (Imagem: Imec)

Computação Analógica Explicada

Computação analógica, ou processor-in-memory, é uma técnica comprovada já adotada por aceleradores de IA comerciais da Mythic, Syntiant, Gyrfalcon e outros. Ela elimina o caro transporte de dados entre memória e processador realizando operações multiply-accumulate diretamente dentro de um array de memória.

Cada célula memristor é programada para uma condutância analógica proporcional a um peso de rede neural. Uma tensão proporcional à ativação de entrada impulsiona a célula, e a corrente resultante representa o produto de ativação e peso. A soma de corrente em cada bit-line produz a multiplicação matriz-vetor requerida por redes neurais, que pode então ser lida via conversor analógico-digital.

“Na prática, podemos usar ReRAM, MRAM, Flash ou DRAM — nosso objetivo é identificar a melhor opção para cada aplicação e ajustar a tecnologia”, disse Diederik Verkest, diretor de programa para machine learning na Imec.

Chip de Teste AnIA da Imec

Construído no 22 nm FD-SOI da GlobalFoundries, AnIA apresenta um array SRAM de 512k células, 1024 DACs e 512 ADCs em 4 mm². Ele pode realizar aproximadamente 500.000 computações por ciclo com ativações de 6-bit (mais bit de sinal), pesos ternários e saídas de 6-bit.

“Podemos entregar resultados de multiplicação matriz-vetor em múltiplas tensões de alimentação — 0,8 V e 0,6 V — sem comprometer precisão. Tensões menores reduzem drasticamente o consumo de potência, o que é crítico para inferência energy-constrained na borda”, explicou Ioannis Papistas do grupo de machine learning da Imec.

Na tarefa de reconhecimento de objetos CIFAR-10, a precisão do AnIA caiu apenas um ponto percentual comparado a baseline similarmente quantizado. A 0,8 V, o chip alcançou 1.050–1.500 TOPS/W para 23,5 TOPS; a 0,6 V, atingiu 5,8 TOPS e 1.800–2.900 TOPS/W.

Comparação de eficiência energética: AnIA da Imec vs. outros aceleradores de IA (clique para ampliar) (Imagem: Imec)

Do Laboratório à Produção em Massa

“Esta inovação é destinada para adoção mainstream”, disse Hiren Majmudar, VP e GM da unidade de negócios de computing da GlobalFoundries. “Vemos parceiros já em fase pós-produção com silício validado. Antecipamos silício de compute analógico para atingir produção até fim de ano ou início do próximo ano, e aparecer no mercado de massa não mais tarde que 2022 — potencialmente antes.”

A GlobalFoundries está integrando a tecnologia AiMC da Imec em sua plataforma 22FDX, habilitando aceleradores de IA ultra-baixo consumo. O processo FD-SOI suporta operação até 0,5 V com leakage de standby de 1 pA/µm. A feature 22FDX+AiMC está atualmente em desenvolvimento na linha de 300 mm da GlobalFoundries no Fab 1 em Dresden, Alemanha.

O programa de machine learning da Imec avançarão rumo a 10.000 TOPS/W (10 TOPS abaixo de 100 mW) para sensores inteligentes always-on e wearables. Trabalhos futuros focarão em encolher células de compute e explorar dispositivos de memória emergentes como plataformas de próxima geração.

>> Este artigo foi publicado originalmente em nosso site irmão, EE Times.