Blaize Revela Graph Streaming Processor (GSP) para Cargas de Trabalho de IA

TÓQUIO – A empresa de aceleradores de IA Blaize, anteriormente ThinCI, anunciou que seu Graph Streaming Processor (GSP) totalmente programável entrará em produção em volume no Q2 2020.

A startup de seis anos não divulgou especificações detalhadas, incluindo consumo de energia e dados de benchmark. No entanto, seu chip de teste – taped out em meados de 2018 e executado em um gabinete baseado em Linux – foi implantado em 16 projetos piloto ao redor do globo no último ano, disse o CEO e cofundador Dinakar Munagala.

A Blaize caracteriza o GSP como executando processamento direto de grafos, gerenciando e executando grafos de tarefas on-chip, e permitindo paralelismo no nível de tarefa. Em essência, o GSP aborda cargas de trabalho de IA que GPUs, CPUs e DSPs lutaram para servir eficientemente.

Analistas da indústria observaram que esta proposta ecoa alegações familiares de outros fornecedores de processadores de IA.

Kevin Krewell, analista principal da Tirias Research, disse: "Conheço um pouco sobre a ThinCI, mas nunca obtive o pitch da arquitetura. Fico feliz que tenham mudado o nome."

A falta de detalhes técnicos sobre a arquitetura GSP em seu slide deck alimentou frustração e ceticismo entre analistas. Munagala, no entanto, prometeu um lançamento abrangente de informações no Q1 2020.

Entrando em Lista de Fornecedores Qualificados

A boa notícia para a Blaize, segundo Munagala, é que uma lista crescente de early adopters já está usando seu GSP. No último ano, a Blaize enviou uma unidade desktop equipada com o GSP. A unidade pode ser conectada a uma tomada de energia e conectada via Ethernet. Cientistas de dados, desenvolvedores de software e hardware já estão avaliando funções de nível de sistema habilitadas pelo GSP.

A Blaize, com $87 milhões em financiamento, é apoiada por investidores e parceiros iniciais, incluindo Denso, Daimler e Magna. "Também estamos gerando receita do segmento automotivo há alguns anos", disse Munagala.

Com um chip taped-out em mãos, muitas startups enfrentam um dilema "E agora?". Richard Terrill, vice-presidente e desenvolvimento de negócios estratégicos na Blaize, disse ao EE Times: "Já passamos dessa fase há um ano."

A Blaize focou em expandir sua infraestrutura reforçando uma equipe de engenharia que agora totaliza 325 membros na Califórnia, Índia e Reino Unido. Está se mudando para novas instalações e contratando engenheiros de field-application no Japão e EMEA. "Estamos mantendo nosso ímpeto", disse Munagala.

Para a Blaize, o negócio GSP não é mais sobre competir em folhas de especificação. É sobre entender como os clientes usarão o GSP em aplicações reais e medir consumo de energia de nível de sistema nesses contextos.

A Blaize tem estado ocupada finalizando logística, obtendo qualificação automotiva e garantindo que processos internos e documentação atendam a padrões de certificação. "Já completamos um processo de auditoria e estamos em uma lista de fornecedores aprovados e qualificados de um cliente automotivo", disse Munagala. Este marco é crítico para montadoras e fornecedores tier-one que preferem parceiros com longevidade comprovada.

A Blaize contratou 30 engenheiros no Reino Unido (em Kings Langley e Leeds) para focar no desenvolvimento de produto automotivo. A equipe, composta por indivíduos altamente qualificados que trabalharam anteriormente na MIPS em ASICs baseados em MIPS para Mobileye, traz profunda expertise de domínio.

Computação em Grafos

Embora a IA abranja muitos tipos de redes neurais, "todas as redes neurais são baseadas em grafos", explicou Munagala. Em teoria, isso permite que desenvolvedores construam múltiplas redes neurais e fluxos de trabalho inteiros em uma única arquitetura. Daí o slogan de marketing do GSP: "100% graph-native".

A Blaize não está sozinha no espaço de computação em grafos. Concorrentes como Graphcore, Mythic e a recentemente fechada Wave Computing também discutiram otimização e compilação de grafos de fluxo de dados para processamento de IA.

Terrill observou: "A computação em grafos tem uma história de mais de 60 anos."

O GSP da Blaize se distingue de outros processadores de fluxo de dados baseados em grafos de três maneiras, segundo Munagala. Primeiro, o GSP é totalmente programável, capaz de lidar com uma ampla gama de tarefas. Segundo, é dinamicamente reprogramável "em um único ciclo de clock". Terceiro, integra streaming para minimizar latência. O mecanismo de streaming de dados reduz ou elimina movimento de dados não computacional, entregando um multiplicador de eficiência significativo.

O design graph-native da arquitetura GSP minimiza movimento de dados para DRAM externa. Apenas a entrada inicial e a saída final requerem memória externa; dados intermediários permanecem on-chip, reduzindo drasticamente largura de banda de memória e uso de energia.

Os objetivos declarados para sistemas Blaize são "a menor latência possível, redução nos requisitos de memória e demanda de energia nos níveis de chip, placa e sistema".

Perguntado se o design de computação em grafos da Blaize é defensável por patentes, Munagala respondeu: "Estamos confiantes em nosso portfólio de patentes. Mantemos múltiplas patentes concedidas e temos aplicações adicionais pendentes, refletindo anos de pesquisa focada."