Por que o edge AI é um acéfalo

Em 2020, a Deloitte prevê que mais de 750 milhões de chips de IA de ponta - chips completos ou partes de chips que executam ou aceleram tarefas de aprendizado de máquina no dispositivo, em vez de em um data center remoto - serão vendidos, representando uma receita de US $ 2,6 bilhões. Além disso, o mercado de chips de IA de ponta crescerá muito mais rapidamente do que o mercado geral de chips. Em 2024, esperamos que as vendas unitárias de chips edge AI excedam 1,5 bilhão, possivelmente por muito. Isso representa um crescimento anual de vendas unitárias de pelo menos 20%, mais do que o dobro da previsão de longo prazo de 9% CAGR para a indústria geral de semicondutores.

Figura 1:Locais nos quais a inteligência pode ser incorporada (Imagem:Deloitte Insights)

Esses chips de IA de ponta provavelmente irão encontrar seu caminho em um número cada vez maior de dispositivos de consumo, como smartphones, tablets, alto-falantes inteligentes e vestíveis de última geração. Eles também serão usados ​​em vários mercados corporativos:robôs, câmeras, sensores e outros dispositivos para a internet das coisas. O mercado consumidor de chips de IA de ponta é muito maior do que o mercado corporativo, mas tende a crescer mais lentamente, com um CAGR de 18% esperado entre 2020 e 2024. O mercado de chips de IA de ponta empresarial está crescendo muito mais rápido, com uma previsão CAGR de 50% no mesmo período.

Figura 2:O mercado de chips de IA de ponta (Imagem:Deloitte Insights)

No entanto, este ano, o mercado de dispositivos de consumo provavelmente representará mais de 90% do mercado de chips de IA de ponta, tanto em termos de números vendidos quanto em valor em dólares. A grande maioria desses chips de IA de ponta irá para smartphones de ponta, que representam mais de 70% de todos os chips de IA de ponta em uso atualmente. De fato, não apenas em 2020, mas nos próximos anos, o crescimento do chip de IA será impulsionado principalmente por smartphones. Acreditamos que mais de um terço do mercado de smartphones de 1,56 bilhão de unidades este ano pode conter chips AI de ponta.

Por causa dos requisitos extremamente intensivos do processador, os cálculos de IA foram quase todos realizados remotamente em data centers, em dispositivos de núcleo empresarial ou em processadores de ponta de telecomunicações - não localmente em dispositivos. Os chips Edge AI estão mudando tudo isso. Eles são fisicamente menores, relativamente baratos, usam muito menos energia e geram muito menos calor, tornando possível integrá-los a dispositivos portáteis e também a dispositivos não destinados ao consumidor, como robôs. Ao permitir que esses dispositivos executem cálculos de IA com uso intensivo de processador localmente, os chips de IA de ponta reduzem ou eliminam a necessidade de enviar grandes quantidades de dados para um local remoto, proporcionando benefícios em usabilidade, velocidade e segurança e privacidade de dados.

Manter o processamento no dispositivo é melhor em termos de privacidade e segurança; informações pessoais que nunca saem de um telefone não podem ser interceptadas ou utilizadas indevidamente. E quando o chip edge AI está no telefone, ele pode fazer todas essas coisas mesmo quando não está conectado a uma rede.

Claro, nem todos os cálculos de IA precisam ocorrer localmente. Para algumas aplicações - por exemplo, quando há simplesmente dados demais para o chip AI de borda de um dispositivo manipular - enviar dados para serem processados ​​por um array de AI remoto pode ser adequado ou mesmo preferido. Na verdade, na maioria das vezes, a IA será feita de forma híbrida:parte do dispositivo e parte da nuvem. A combinação preferida em qualquer situação variará dependendo exatamente de que tipo de processamento de IA precisa ser feito.

A economia da IA ​​de ponta em smartphones

Smartphones não são os únicos dispositivos que usam chips de IA de ponta; outras categorias de dispositivos - tablets, wearables, alto-falantes inteligentes - também os contêm. No curto prazo, esses dispositivos não smartphones provavelmente terão um impacto muito menor nas vendas de chips de IA de ponta do que smartphones, seja porque o mercado não está crescendo (como para tablets) ou porque é muito pequeno para fazer uma diferença material ( por exemplo, os alto-falantes inteligentes e os vestíveis combinados devem vender meros 125 milhões de unidades em 2020). Muitos wearables e alto-falantes inteligentes dependem de chips de IA de ponta, entretanto, a penetração já é alta.

Atualmente, apenas os smartphones mais caros - aqueles no terço superior da distribuição de preços - tendem a usar chips AI de ponta. Mas colocar um chip de IA em um smartphone não precisa ter um preço proibitivo para o consumidor.

É possível chegar a uma estimativa razoável do conteúdo do chip AI de ponta de um smartphone. Até o momento, imagens de processadores de telefone da Samsung, Apple e Huawei mostram o molde de silício nu com todos os seus recursos visíveis, permitindo a identificação de quais partes dos chips são usadas para quais funções. Uma imagem do chip do Exynos 9820 da Samsung mostra que cerca de 5% da área total do chip é dedicada aos processadores AI. O custo da Samsung para todo o processador do aplicativo SoC é estimado em US $ 70,50, que é o segundo componente mais caro do telefone (depois da tela), representando cerca de 17% da conta total de materiais do dispositivo. Assumindo que a porção de AI custe o mesmo que o resto dos componentes em uma base de área de molde, a unidade de processamento neural
(NPU) de AI de borda do Exynos representa cerca de 5% do custo total do chip. Isso se traduz em cerca de US $ 3,50 cada.

Figura 3:Uma imagem do chip do Exynos 9820 da Samsung mostra que cerca de 5% da área total do chip é dedicada aos processadores AI. (Imagem:ChipRebel; Anotação:AnandTech)

Da mesma forma, o chip A12 Bionic da Apple dedica cerca de 7% da área da matriz ao aprendizado de máquina. Com uma estimativa de US $ 72 para o processador inteiro, essa porcentagem sugere um custo de US $ 5,10 para a porção AI da borda. O chip Huawei Kirin 970, estimado em US $ 52,50 para a fabricante, dedica 2,1% da matriz ao NPU, sugerindo um custo de US $ 1,10. (A área da matriz não é a única maneira de medir qual porcentagem do custo total de um chip vai para a IA, no entanto. De acordo com a Huawei, o NPU do Kirin 970 tem 150 milhões de transistores, representando 2,7% do total do chip de 5,5 bilhões de transistores. sugerem um custo NPU ligeiramente mais alto de US $ 1,42).

Figura 4:O chip A12 Bionic da Apple dedica cerca de 7% da área da matriz ao aprendizado de máquina. (Imagem:TechInsights / AnandTech)

Embora a faixa de custo citada seja ampla, é razoável supor que NPUs custem em média US $ 3,50 por chip. Multiplicado por meio bilhão de smartphones (sem falar em tablets, alto-falantes e wearables), isso cria um grande mercado, apesar do baixo preço por chip. Com um custo médio de US $ 3,50 para o fabricante, e um mínimo provável de US $ 1, adicionar uma borda dedicada AI NPU aos chips de processamento do smartphone começa a parecer um acéfalo. Assumindo a marcação normal, adicionar US $ 1 ao custo de fabricação se traduz em apenas US $ 2 a mais para o cliente final. Isso significa que NPUs e seus benefícios de atendimento - uma câmera melhor, assistência de voz offline e assim por diante - podem ser colocados em até mesmo um smartphone de US $ 250 por menos de 1% de aumento de preço.

Fornecimento de chips AI:interno ou terceirizado?

As empresas que fabricam smartphones e outros dispositivos variam em suas abordagens para obter chips de IA de ponta, com a decisão sendo impulsionada por fatores como o modelo do telefone e, em alguns casos, a geografia. Alguns compram chips de processador / modem de aplicativos de terceiros, como Qualcomm e MediaTek, que juntos capturaram cerca de 60% do mercado de SoC de smartphones em 2018.

Tanto a Qualcomm quanto a MediaTek oferecem uma variedade de SoCs a vários preços; embora nem todos incluam um chip AI de ponta, as ofertas de ponta (incluindo Snapdragon 845 e 855 da Qualcomm e Helio P60 da MediaTek) costumam incluir. No outro extremo da escala, a Apple não usa chips AP externos:ela projeta e usa seus próprios processadores SoC, como os chips A11, A12 e A13 Bionic, todos com IA de ponta.

Outros fabricantes de dispositivos, como Samsung e Huawei, usam uma estratégia híbrida, comprando alguns SoCs de fornecedores de silício do mercado comercial e usando seus próprios chips (como Exynos 9820 da Samsung e Kirin 970/980 da Huawei) para o resto.

>> Continue lendo a página dois deste artigo publicado originalmente em nosso site irmão, EE Times Europe.