A arquitetura do chip AI visa o processamento do gráfico

TÓQUIO - O designer do processador de IA Blaize, anteriormente conhecido como ThinCI (pronuncia-se “Think-Eye”), revelou que seu Graph Streaming Processor (GSP) totalmente programável entrará em produção de volume no segundo trimestre de 2020.

Embora a startup de seis anos de idade seja omissa sobre as especificações de seu produto - como nível de energia e resultados de benchmarking - seu chip de teste, gravado em meados de 2018 e alojado em uma caixa baseada em Linux, esteve envolvido em 16 programas piloto em todo o mundo por um ano, afirmou o cofundador e CEO da Blaize, Dinakar Munagala.

Blaize descreve seu GSP como capaz de realizar “processamento direto de gráficos, gerenciamento e execução de tarefas no chip e paralelismo de tarefas”. Resumindo, Blaize projetou o GSP para atender às necessidades de processamento de IA que antes não eram atendidas por GPU, CPU ou DSP.

Para muitos analistas do setor que cobrem os processadores de IA, esse é um argumento que eles já ouviram antes.

Kevin Krewell, principal analista da Tirias Research, disse:“Eu sei um pouco sobre o ThinCI, mas nunca tive o lance de arquitetura. Estou feliz que eles mudaram o nome. ”

A escassez de detalhes técnicos sobre a arquitetura GSP em sua apresentação de slides está alimentando a frustração e o ceticismo na comunidade de analistas de tecnologia. Munagala, no entanto, promete um lançamento de informações no primeiro trimestre de 2020.

Diagrama de blocos de alto nível da arquitetura GSP

A arquitetura GSP consiste em uma matriz de processadores de streaming de gráfico, processadores matemáticos dedicados, controle de hardware e vários tipos de cache de dados. A empresa afirma que o GSP pode oferecer:“Verdadeiro paralelismo de nível de tarefa, uso mínimo de memória fora do chip, programação de gráfico de hardware em primeiro lugar, arquitetura totalmente programável”. Clique aqui para ampliar a imagem (Fonte:Blaize)

Obter uma lista de fornecedores qualificados

A boa notícia para Blaize na mente de Munagala é uma multidão de primeiros clientes já usando seu GSP. Por um ano, Blaize está despachando uma unidade de desktop com GSP. Ele pode ser simplesmente conectado a uma tomada elétrica e conectado à Ethernet. Cientistas de dados, desenvolvedores de software e hardware já estão avaliando funções em nível de sistema habilitadas pelo GSP, disse Munagala.

Blaize, com US $ 87 milhões em financiamento, é apoiado pelos primeiros investidores e parceiros, incluindo Denso, Japão de primeira linha, Daimler e Magna. “Também estamos lucrando com o segmento automotivo há alguns anos”, disse Munagala.

Com um chip gravado na mão, muitas startups enfrentam uma pergunta "O que fazemos agora?" dilema. Richard Terrill, vice-presidente e desenvolvimento de negócios estratégicos da Blaize, disse ao EE Times:“Já ultrapassamos esse estágio há um ano”.

Blaize voltou seu foco para a construção de sua infraestrutura reforçando uma equipe de engenharia (agora com 325 pessoas) que se estende pela Califórnia, Índia e Reino Unido. Ela está se mudando para novas instalações e começando a contratar engenheiros de aplicação de campo no Japão e EMEA . “Estamos mantendo nosso ímpeto”, disse Munagala.

Para Blaize, seu negócio GSP não se trata mais de competir com startups rivais nas especificações em apresentações em power point. Trata-se de descobrir como os clientes usarão seu GSP para quais aplicativos - e quanta energia ele consome "em um nível de sistema" em usos específicos.

A Blaize tem se empenhado em definir sua logística, qualificar seus produtos automotivos e certificar-se de que o processo interno e a documentação sejam certificados. “Já passamos por um processo de auditoria e estamos em uma lista de fornecedores aprovados e qualificados” de um cliente automotivo, disse Munagala. Este foi um processo muito necessário aplicado por fabricantes de automóveis e outros de nível, que preferem evitar startups que podem não durar o suficiente para entregar produtos.

Blaize contratou cerca de 30 engenheiros no Reino Unido (em Kings Langley e Leeds), designados para trabalhar no desenvolvimento de produtos automotivos. Eles são uma equipe muito unida de engenheiros soltos quando a Imagination alienou o MIPS. “Trata-se de um grupo de indivíduos altamente qualificados que trabalharam juntos no MIPS para obter a qualificação automotiva de ASICs baseados em MIPS para Mobileye”, explicou Munagala.

Computação gráfica

Embora a IA venha em muitos tipos diferentes de redes neurais, “todas as redes neurais são baseadas em gráficos”, explicou Munagala. Em teoria, isso permite que os desenvolvedores aproveitem a estrutura nativa do gráfico para construir várias redes neurais e fluxos de trabalho inteiros em uma única arquitetura. Portanto, o novo discurso de marketing da empresa para seu GSP é "100 por cento nativo do gráfico".

No entanto, Blaize não é exatamente um unicórnio no universo da computação gráfica. Graphcore, Mythic e agora falhando Wave Computing todos falaram sobre “otimização e compilação de gráficos de fluxo de dados” no processamento de IA.

Terrill disse:“Claro, a computação gráfica tem mais de 60 anos de história”.

Blaize GSP reivindica uma distinção de outros processadores de fluxo de dados baseados em gráficos em três áreas, disse Munagala. Primeiro, “Nosso GSP é totalmente programável”, capaz de realizar “uma ampla gama de tarefas”, disse ele.

Em segundo lugar, é "reprogramável dinamicamente ... em um único ciclo de clock."

Terceiro, “Oferecemos a integração de streaming”, o que torna possível minimizar a latência. O multiplicador de eficiência massiva é fornecido por meio de “um mecanismo de streaming de dados”, onde a movimentação de dados não computacionais é minimizada ou eliminada, explicou ele.

Processamento de execução sequencial

Clique aqui para ampliar a imagem (Fonte:Blaize)
A natureza nativa do gráfico da arquitetura GSP pode minimizar o movimento de dados para frente e para trás para DRAM externa. Apenas a primeira entrada e a saída final são necessárias externamente, enquanto tudo o mais no meio são apenas dados intermediários e temporários. Isso resulta na redução maciça da largura de banda da memória e do consumo de energia.
Processamento de execução de streaming de gráfico


Clique aqui para ampliar a imagem (Fonte:Blaize)
Os objetivos declarados para os sistemas Blaize são “a latência mais baixa possível, redução nos requisitos de memória e demanda de energia nos níveis de chip, placa e sistema”.

Questionado sobre se o design de computação gráfica de Blaize será patenteado, Mungala disse:“Estamos confiantes em nosso portfólio de patentes. Temos várias patentes - algumas já concedidas e outras aplicadas, mas temos feito isso há vários anos. ”