Chips de IA em alta, software de IA ganhando destaque

Enquanto a indústria de tecnologia continua a apregoar um “renascimento” do artificial inteligência, o número de startups de chips de IA começou a estagnar à medida que os principais participantes constroem soluções internas e se concentram no aumento do software de IA.
Enquanto a indústria de tecnologia continua a apregoar um “renascimento” da inteligência artificial, o número de startups de chips de IA começou a estagnar. As startups de IA estão descobrindo que as barreiras de entrada para datacenters, antes um mercado promissor, são altas - talvez de forma proibitiva. Seus problemas remontam a hiperscaladores como Google, Amazon e Facebook, que agora desenvolvem seus próprios processadores e aceleradores de IA que atendem às suas necessidades específicas.

Para ser claro, o aprendizado de máquina (ML) continua avançando. Mais variações de redes neurais estão surgindo. A IA está se tornando intrínseca a todos os sistemas eletrônicos.

Laurent Moll, diretor de operações da Arteris, prevê que, no futuro, “todos têm algum tipo de IA em seus SoCs”. Essa é uma boa notícia para a Arteris, porque seu negócio é ajudar empresas (grandes e pequenas, ou novas e antigas) a integrar SoCs, fornecendo ferramentas de desenvolvimento de IP e IP de rede no chip (NoC).

Para startups de chips AI? Não muito. A competição está ficando acirrada, complicando o desafio de quebrar segmentos de mercado adequados para um projeto de IA específico.

EE Times irá revelar no próximo mês nosso “Silicon 100” (versão 2021), uma lista anual de startups de semicondutores e eletrônicos emergentes. O autor do relatório, Peter Clarke, vem acompanhando de perto o lançamento de semicondutores há duas décadas. Ele nos diz que o número de startups de chips especializados, com foco em GPUs e IA, “é estável em comparação com o ano anterior”. Ele observa:“Sentimos que a indústria pode ter atingido o ponto de‘ pico da IA ​​’”.

Em suma, os dias difíceis de startups de chips de IA podem ter acabado.

Kevin Krewell, analista principal da Tirias Research, espera mais aquisições de startups de chips de IA. “Afinal, a explosão do financiamento inicial da IA ​​aconteceu depois que a Intel comprou a Nervana. VCs e anjos viram uma possível estratégia de saída lucrativa. ” Ele acrescentou que há “muitas startups [de IA] hoje do que a indústria pode suportar a longo prazo. Tenho certeza de que mais alguns irão aparecer com soluções mais exóticas envolvendo analógico ou óptico. [Mas] eventualmente, as funções de AI / ML serão incluídas em SoCs maiores ou em designs de chips. ”

Laurent Moll
Diante desse cenário, o EE Times recentemente conversou com o recém-nomeado diretor de operações da Arteris. Moll, que já foi CTO da Arteris, passou mais de sete anos na Qualcomm, mais recentemente como vice-presidente de engenharia da gigante do chip móvel.

Perguntamos a Moll sobre as mudanças no cenário de chips de IA e para onde as startups estão indo.

corrida do ouro

Sem surpresa, Moll descreveu a corrida da indústria para a IA como "uma das maiores corridas do ouro" que ele já viu. No entanto, esses 49ers dos últimos dias não são mais apenas startups ou empresas menores. Os garimpeiros incluem empresas que “já fabricam silício há muito tempo e muitas pessoas novas que não faziam silício [antes]”, disse Moll. Todos estão "jogando na mesma arena" e todos estão "tentando quebrar a noz".

A base crescente de desenvolvedores e aplicativos diversificados são vantajosos para a Arteris, mas pinta um cenário muito diferente para as startups de chips de IA. Eles não competem mais apenas com outras startups de IA com novas ideias igualmente brilhantes. Mas agora eles também estão lutando contra os meninos grandes. Os hiperscaladores e os OEMs de automóveis estão se empenhando no desenvolvimento de IA para que possam usar seus próprios chips em seus sistemas.

Ainda em fase de expansão

O mercado de chips de IA está "ainda em fase de expansão" com "todos ainda explorando", observou Moll da Arteris. No entanto, ele está vendo o surgimento de “um pouco de ordem” na frente do datacenter. Isso ocorre principalmente porque os hiperscalers estão assumindo o controle de seu destino ao desenvolver seus próprios processadores e aceleradores de IA.

A distinção entre hiperscalers e outros designers de chips de IA resume-se a um fator. “Eles possuem conjuntos de dados”, disse Moll. Os hiperscaladores não compartilham conjuntos de dados com outras pessoas, mas desenvolvem pilhas de software proprietário. “E eles sentem que podem criar silício, muito mais otimizado para seu próprio acesso aos dados.”

Enquanto isso, fornecedores externos - startups de chips de IA menores - estão “desenvolvendo novos métodos de estruturação de SoCs, novas maneiras de usar SRAM e DRAM, empilhamento, usando óptica”, disse Moll. “Há muitas maneiras de criar um molho secreto, permitindo que eles façam IA muito melhor do que os chips de IA de prateleira podem fazer hoje. Os caras menores estão mudando o jogo, eles são muito espertos em fazer as coisas de maneira diferente dos outros. ”

Em contraste, os chips de IA perseguidos por hiperscaladores não são tão inovadores. Os hiperscaladores podem usar uma abordagem mais tradicional, observou Moll. Um bom exemplo é o TPU do Google. “Se você olhar para ela, a arquitetura é ótima, mas não é revolucionária - de muitas maneiras.” Apesar disso, “funciona extremamente bem para o que o Google deseja fazer. Então, isso serve ao propósito deles ”.

Se os chips de startups de IA menores são tão novos, eles não deveriam estar se infiltrando nos data centers dos hiperescaladores?

"Não, não, não", disse Moll. “É improvável que qualquer um dos menores se expanda no mercado de datacenter ... ou os hiperscaladores comprem seus produtos.” No entanto, ele observou que “os hiperscaladores definitivamente comprarão algumas dessas startups, uma vez que perceberam que suas tecnologias são úteis e aplicáveis ​​ao que desejam fazer”.

Moll descreveu a linha de pensamentos do hiperscalador como:“Eu sei qual é o meu conjunto de dados. Eu sei fazer uma espécie de arquitetura mais centrada. Se alguém tem uma ótima ideia que funciona bem, vamos pegar esse conjunto de pessoas e o IP e melhorar nosso próprio produto. ”

Krewell, da Tirias Research, concorda. “Você tem que fazer algo espetacular para que os hipercalares se comprometam a usar seu chip de aprendizado de máquina.” A Cerebras, por exemplo, empurrou o envelope com seu chip do tamanho de um wafer, disse Krewell. “A Nvidia ainda é a plataforma padrão para o trabalho de desenvolvimento de IA por causa de seu software e escalabilidade onipresentes.”

E quanto à borda?

Para os designers de chips de IA, “a vantagem é uma história totalmente diferente”, em comparação com os datacenters, observou Moll. O mercado final para o edge é versátil, com um desejo por uma gama muito maior de soluções. “Muitas pessoas ainda estão descobrindo onde aplicar a IA e como implementá-la”, disse Moll.

clique para imagem em tamanho real

19 por cento do mercado total de semicondutores disponível estará relacionado a AI / ML em 2025. (Fonte:Bernstein; Cisco; Gartner; IC Insights; IHS Markit; Machina Research; McKinsey Analysis - Compiled by Arteris)

Krewell, da Tirias Research, concordou. “Edge ainda é uma área relativamente inexplorada. Ainda existem oportunidades para adicionar ML a sensores e dispositivos de ponta. Dispositivos analógicos e in-memory de muito baixo consumo de energia são promissores, assim como aceleradores em MCUs e processadores de aplicativos. Vejo muito potencial para inferência INT4 e INT2 em processadores de borda - boa precisão com requisitos de energia e memória muito mais baixos ”.

Embora diversas aplicações pareçam empolgantes, elas trazem o perigo de ser pego no ciclo de hype do Edge AI.

Edge AI tornou-se uma palavra da moda não porque edge seja um novo mercado, nem porque denota qualquer categoria de produto específica. Em vez disso, a falta de definição transformou a “ponta” em um ponto-chave com o qual as startups podem associar seus produtos.

Entre os aplicativos de ponta ampla, Moll vê duas tendências divergentes. Um é um “AI dentro de um chip que faz outra coisa”, observou ele. "É aí que está a explosão."

Este mercado de sistemas embarcados é “onde coisas como fatores de forma, energia e térmica realmente importam”, acrescentou.

Outra tendência no outro extremo do espectro são “chips enormes que apenas fazem IA”, observou Moll. Os aplicativos para grandes chips na ponta, no entanto, ainda estão evoluindo.

O melhor exemplo de “IA dentro de um chip” provavelmente são os processadores de aplicativos para smartphones, que Moll conhece bem. Os aceleradores de IA têm desempenhado um papel fundamental no reconhecimento de voz e no processamento da visão. Hoje, a IA se tornou uma grande parte do apelo de vendas do telefone celular. Um resultado é que “os operadores móveis [como a Qualcomm] têm vantagens”, reconheceu Moll.

IA no setor automotivo

Moll vê a IA em veículos é uma história totalmente diferente.

Ele observou que haverá um espectro de soluções, de chips de visão por computador com grande capacidade de IA a um grande chip de IA que faz todo o processamento pesado. À medida que os veículos avançam do ADAS para a autonomia, Moll espera que processadores de IA maiores desempenhem um papel crítico no mercado de veículos de ponta.

Embora os titulares do setor automotivo, muitas vezes armados com seus próprios pequenos chips de IA, tenham vantagens no ADAS, há amplo espaço para startups de chips de IA no mercado de autonomia com chips de IA razoavelmente grandes.

Mas aqui está a diferença.

Os fabricantes de automóveis - imitando hiperscaladores - também estão se verticais. A Tesla já projetou seu próprio chip, chamado de computador “Full Self-Driving”. Algumas semanas atrás, o CEO da Volkswagen, Herbert Diess, disse a um jornal alemão que a empresa planeja projetar e desenvolver seus próprios chips de alta potência para veículos autônomos, junto com o software necessário.

Moll confirmou que os fabricantes de automóveis “estão todos olhando para isso com muito cuidado”. Embora a Arteris seja uma empresa de IP, “Recebemos ligações de OEMs de automóveis porque eles querem entender toda a pilha e querem estar no controle” da “grande pilha de silício” que está para entrar e alterar a arquitetura do veículo .

As startups de chips de IA, como Recogni, Blaize e Mythic, listam o setor automotivo como um segmento de mercado de IA de ponta que almejam. Ainda não se sabe como os fabricantes de automóveis implementarão esses chips em um veículo.

Krewell enfatizou:“As plataformas automotivas ainda estão evoluindo. A funcionalidade distribuída tem as vantagens de modularidade e risco reduzido, mas é mais caro para construir e manter do que um complexo de processamento centralizado. ”

Ele acrescentou:“O outro problema são os dados. Os sensores enviarão muitos dados, tendo a inteligência na borda reduz as transferências de dados, mas com a compensação de maior lag do sensor e potência mais distribuída no chassi. Algum equilíbrio de processamento de borda leve no sensor pode reduzir a carga no processador central sem adicionar latência excessiva ou exigir muita energia distribuída. ”

A batalha de IA muda de chips para software

Krewell observou:“Vejo o foco da IA ​​passando dos chips para o software. A implantação da funcionalidade de ML requer um bom software. E para tornar o ML acessível a mais engenheiros de design e programadores integrados, é necessário fazer o ML com baixo código. Também requer a automação da criação de modelos personalizados para o aplicativo específico. ”

Moll chegou a uma conclusão semelhante. Questionado sobre por que decidiu voltar para a Arteris vindo da Qualcomm, ele citou dois pontos.

Primeiro, a Arteris costumava jogar em um nicho - “um lugar estreito entre fornecedores de IP”. Mas esse nicho agora se tornou “um dos espaços-chave” onde os designers de chips de IA buscam ajuda para “montar SoCs muito grandes e complicados”, construindo muitas redes em chips. É aí que uma Rede em Chip (NOC) da Arteris pode entrar para resolver problemas de uma forma holística.

Em segundo lugar, a Arteris IP adquiriu a Magillem no ano passado. Moll vê a “camada de software” oferecida pela Magillem como outra chave para a criação de um SoC muito grande e complicado. Tendo sido responsável na Qualcomm pela equipe de entrega de chips de alto nível, “Reconheci o valor do que a Arteris oferece como usuário, não como profissional de marketing”.

>> Este artigo foi publicado originalmente em nosso site irmão, EE Vezes.