AI no limite ainda mais para consumidores, não para empresas, mercado

Experiências baseadas em dados são ricas, imersivas e imediato. Mas eles também são devoradores de dados intolerantes ao atraso.

Pense na entrega de pizza por drone, câmeras de vídeo que podem registrar acidentes de trânsito em um cruzamento, caminhões de carga que podem identificar uma falha potencial do sistema.

Esses tipos de atividades de ação rápida precisam de muitos dados - rapidamente. Portanto, eles não podem sustentar a latência conforme os dados viajam de e para a nuvem. Esse vaivém demora muito. Em vez disso, muitos desses processos de uso intensivo de dados devem permanecer localizados e processados ​​na extremidade e em ou perto de um dispositivo de hardware.

“Um veículo autônomo não pode esperar nem mesmo um décimo de segundo para ativar a frenagem de emergência quando o algoritmo de IA [inteligência artificial] prediz uma colisão iminente”, escreveu o professor da Northwestern University Mohanbir Sawhney em “Por que a Apple e a Microsoft estão se movendo para o limite”. “Nessas situações, a IA deve estar localizada na borda, onde as decisões podem ser tomadas com mais rapidez, sem depender da conectividade de rede e sem mover grandes quantidades de dados para frente e para trás em uma rede.”

“Os processadores de ponta de IA permitem que você faça o processamento no próprio [dispositivo] ou insira um servidor na sala dos fundos, em vez de fazer o processamento na nuvem”, disse Aditya Kaul, diretor de pesquisa da Omdia, uma empresa de pesquisas .

IA na ponta:empresa vs. adoção do consumidor

A capacidade dos chips de IA de realizar tarefas como inferência de aprendizado de máquina se expandiu dramaticamente nos últimos anos. Considere a unidade de processamento gráfico (GPU), que oferece mais de 10 teraflops de desempenho, o que equivale a 10 trilhões de cálculos de ponto flutuante por segundo. Os smartphones modernos têm GPUs que podem lidar com bilhões de operações de ponto flutuante por segundo. Mesmo alguns anos atrás, esse tipo de processamento no dispositivo não estava disponível. Mas hoje, os dispositivos de ponta - smartphones, câmeras, drones - podem lidar com cargas de trabalho de IA.

Somente com o surgimento de chipsets de aprendizagem profunda - ou silício habilitado para inteligência artificial, incluindo GPUs entre outros chips - isso foi possível. E o mercado de chipsets de IA decolou como um foguete.

“Basicamente do zero há alguns anos, [chips de IA de ponta] ganharão mais de US $ 2,5 bilhões em receita 'nova' em 2020, com uma taxa de crescimento de 20 por cento nos próximos anos”, escreveu o relatório da Deloitte “Bringing AI to o dispositivo." [Veja a figura “A indústria de IA de ponta está preparada para crescer” do relatório da Deloitte mencionado anteriormente.]



De acordo com o relatório “Deep Learning Chipsets” da Tractica, espera-se que o mercado de chipsets AI alcance US $ 72,6 bilhões em 2025.

De acordo com especialistas, o mercado consumidor abriu caminho. Hoje, em 2020, o mercado de dispositivos de consumo provavelmente representa 90% do mercado de chips de IA de ponta, em termos de números vendidos e seu valor em dólares.

“O mercado de smartphones está na vanguarda disso”, disse Aditya Kaul, diretor sênior da Tractica, uma empresa de analistas, que lançou recentemente o relatório “Deep Learning Chipsets”. Os smartphones ainda representam cerca de 40% -50% do mercado de chipsets de IA.

Mas, disse Kaul, o processamento habilitado para IA na ponta está chegando à empresa, em áreas como IoT industrial e varejo, bem como saúde e manufatura. “Você pode chamá-lo de‘ vantagem de IA de nível empresarial ”, disse Kaul.

O ímpeto para a adoção corporativa da IA ​​no limite, disse Kaul, é “clareza nos casos de uso”. A visão da máquina, por exemplo, que automatiza a inspeção do produto e o controle do processo, pode melhorar a qualidade e a eficiência dos processos anteriormente manuais em áreas como o chão de fábrica.

“As pessoas estão começando a usar o deep learning [em ambientes industriais] para identificar falhas na indústria automobilística, por exemplo:eles podem apontar defeitos nas portas, nos puxadores ou no vidro durante a montagem. Nas indústrias de alimentos e bebidas, eles identificam tomates velhos, ou uma fábrica de biscoitos pode identificar biscoitos que não são do formato certo ”, disse Kaul.

Além do controle de qualidade, porém, as indústrias estão usando a visão de máquina para promover novas experiências. “O varejo é um setor enorme onde vemos parte disso acontecendo, disse Kaul. É uma vantagem de nível empresarial e o uso de câmeras em supermercados para análise de comprador. Onde eles estão parados e olhando para certos produtos?

AI at the Edge funciona com computação em nuvem

A IA no limite revigorou o interesse por hardware, após vários anos em que o software era rei.

Mas a IA de ponta trata de trazer baixa latência e o hardware distribuído pode permitir o processamento sem ajuda da nuvem.

“Com o crescimento da IA, o hardware está na moda novamente, depois de anos em que o software atraiu o maior interesse corporativo e de investidores”, indicou o relatório da McKinsey “Inteligência Artificial:A Hora de Agir é Agora”.

O hardware também trouxe a arquitetura de computação descentralizada de volta à moda, em que arquiteturas centralizadas envolvem latência e questões de segurança de dados.

“Você quer que as decisões sejam tomadas ali mesmo, em vez de depender da latência da nuvem”, disse Kaul. “E também, você não quer dados em uma nuvem de terceiros. Do ponto de vista da segurança, os dados devem permanecer no local. ”

Em última análise, os especialistas sugerem que a IA de ponta será uma arquitetura complementar à arquitetura de computação em nuvem existente.

“A IA na nuvem pode funcionar em sinergia com a IA na ponta”, escreveu Sawhney. “Considere um veículo movido a IA como o Tesla. A IA no limite permite inúmeras decisões em tempo real, como frenagem, direção e mudanças de faixa. À noite, quando o carro está estacionado e conectado a uma rede Wi-Fi, os dados são enviados para a nuvem para treinar ainda mais o algoritmo. ”

Expectativas de crescimento contínuo em IA no limite

Muito do crescimento no mercado de chips de ponta de IA pode ser atribuído ao aumento da capacidade do próprio hardware. Mas também envolve mudanças operacionais na forma como as indústrias abordam a IA.

Na verdade, embora as indústrias tradicionais, como a de manufatura industrial, antes fossem reticentes em incorporar inteligência artificial aos processos, elas agora veem a IA no limite como benéfica - na verdade, uma chave para o ROI. Como resultado, eles estão introduzindo análises de big data em seus processos, treinando algoritmos para melhorar a precisão desses processos e vendo os resultados no controle de qualidade.

“A única maneira de esses modelos serem precisos é treinando-os com os dados corretos”, disse Kaul. “Dois anos atrás, você não encontraria muitas pessoas nesses setores onde, se você perguntasse sobre os dados de treinamento, elas poderiam olhar para você de uma forma estranha. Mas agora mais pessoas entendem como a IA funciona ”, disse ele.

A Tractica prevê que esse crescimento continuará e haverá um "ponto de inflexão em 2021-2022", disse Kaul, com um "movimento rápido em direção aos aceleradores de IA, chips ASIC".

No entanto, espere que o crescimento seja medido, enfatizou Kaul.

“Muitos desses fornecedores e mercados - em termos de inovação - estão estagnados”, disse Kaul. “Não houve muita inovação nos últimos 20, 30 anos. Portanto, eles geralmente são lentos para se mover. Mas em algumas áreas, as coisas estão melhorando - na visão industrial, na visão médica e no varejo. É cedo ainda. Mas as coisas estão começando a melhorar ”, disse ele.