As tendências continuam a levar o processamento até o limite para IA

Os principais pontos a partir deste artigo incluem o seguinte:

• A proliferação de dispositivos e os volumes de dados agora favorecem os modelos de computação distribuída por razões de velocidade, desempenho e segurança de dados
• Mudanças recentes de fornecedores da NVIDIA e VMware fornecem suporte para processamento intensivo de dados, como IA e aprendizado de máquina, no limite.
• Muitos processos e indústrias se beneficiarão ao levar o processamento ao limite, incluindo IoT industrial e IoT baseada no consumidor.

À medida que os dispositivos conectados proliferam, novas formas de processamento surgiram para acomodar a explosão de dispositivos e dados.

Por anos, as organizações mudaram para uma arquitetura de processamento centralizada e remota na nuvem e longe dos data centers locais. A computação em nuvem permitiu que as startups inovassem e expandissem seus negócios sem exigir grandes desembolsos de capital em infraestrutura de data center ou custos contínuos para gerenciamento de TI. Ele permitiu que grandes organizações escalassem rapidamente e permanecessem ágeis usando recursos sob demanda.

Mas, à medida que as empresas avançam em direção a modelos mais remotos, comunicações com uso intensivo de vídeo e outros processos, elas precisam de uma arquitetura de computação de ponta para acomodar tarefas de consumo excessivo de dados.

Esses processos intensivos de dados precisam acontecer em frações de segundo:pense em carros autônomos, streaming de vídeo ou rastreamento de caminhões de transporte em tempo real em sua rota. Enviar dados em uma viagem de ida e volta para a nuvem e de volta para o dispositivo leva muito tempo. Ele também pode aumentar o custo e comprometer os dados em trânsito.

“Os clientes percebem que não querem passar muito do processamento para a nuvem, então eles estão pensando que a borda é o verdadeiro alvo”, de acordo com Markus Levy, chefe de tecnologias de IA da NXP Semiconductors, em um artigo sobre o ascensão da IA ​​incorporada.

Nos últimos anos, a arquitetura de computação de ponta ganhou destaque, para acomodar a proliferação de dados e dispositivos, bem como a velocidade com que esses dados se movem.

O mercado de computação de ponta deve crescer de US $ 3,6 bilhões em 2020 para US $ 15,7 bilhões em 2025, de acordo com dados da MarketsandMarkets.

Movimentos de mercado continuam levando o processamento até o limite:NVIDIA

Movimentos recentes da NVIDIA, um gigante no mercado de unidades de processamento gráfico (GPU), e da VMware, o fornecedor de virtualização, dão suporte a essas novas arquiteturas de processamento distribuído e claramente abrem o caminho para o processamento ultrarrápido no limite.

Primeiro, em setembro, por exemplo, a NVIDIA anunciou sua intenção de pagar US $ 40 bilhões pela Arm - em parte para continuar levando a IA para mais perto do limite. Enquanto a NVIDIA tem dominado o data center com suas GPUs, a Arm tem uma forte presença no mercado móvel, fornecendo chips para a Apple, Qualcomm e outras.

“Se você acredita que o futuro é a IA, e você acredita que isso é movido por GPUs e CPUs, então a capacidade da NVIDIA de criar esses sistemas ponta a ponta acaba de aumentar”, disse Zeus Kerravala, em uma entrevista em vídeo na NVIDIA - Negociação do braço e perspectivas para IA no limite. “Especialmente no mercado de computação de ponta - a [NVIDIA] estará encarregada disso.”

Existem preocupações regulatórias sobre o acordo NVIDIA-Arm, incluindo se isso poderia colocar em risco o negócio de licenciamento de sucesso da Arm. A Arm tem centenas de licenças com seus parceiros - que, além dos concorrentes AMD e Intel - incluem gigantes como Apple, Qualcomm e Broadcom. Também existem sérias preocupações antitruste sobre o recém-descoberto controle da NVIDIA sobre o mercado de CPUs móveis.

SmartNICs:Movendo o processamento para o limite

Em segundo lugar, na conferência virtual VMworld 2020 no final de setembro, a VMware anunciou o Projeto Monterey para fornecer desempenho de IA aprimorado com tecnologia SmartNIC (ou placa de interface de rede inteligente) e unidades de processamento de dados (DPUs) da NVIDIA. O Projeto Monterey envolve parceria com várias empresas, incluindo NVIDIA, para reforçar a infraestrutura para oferecer suporte a aplicativos de IA no perímetro.

Monterey descarrega as tarefas de hipervisor, rede, segurança e armazenamento de uma CPU host para o BlueField DPU da NVIDIA. Mover esse processamento para DPUs e SmartNics pode encaminhar IA, aprendizado de máquina e outros aplicativos centrados em dados.

Um SmartNIC executa tarefas não relacionadas a aplicativos de uma CPU do servidor, para que o servidor possa executar mais aplicativos com mais rapidez.

“Tem havido uma onda geral de interesse em mover a computação para mais perto dos dados”, disse Alexander Harrowell, analista sênior da Omdia.

“Ele transfere a abstração do hipervisor do host para a rede ... e descarrega parte do trabalho que o próprio hipervisor faz nesse cartão”, disse Harrowell. “Torna mais disponível o poder de processamento pelo qual você pagou. Portanto, há uma história aqui de uma mudança do modelo clássico Intel x86 para o chamado Modelo de Computação de Harvard. ”

Essa tendência em direção à computação distribuída, observou Harrowell, continuará em ritmo acelerado e permitirá um processamento mais complexo, como o processamento de IA.

“Ao descarregar muito desse trabalho de I / O no núcleo do Arm e tirar vantagem dos descarregamentos de hardware nesses SmartNICs”, disse Greg Lavender, vice-presidente sênior e diretor de tecnologia da VMware, “você pode descarregar esse processamento e liberar até até 30% da CPU ... e devolva isso ao aplicativo para que [ele] obtenha o benefício desses recursos extras de computação e memória.

Para o mercado de coisas conectadas, mover o processamento para baixo da pilha e para essas arquiteturas de borda distribuídas será um grande benefício para processos com grande quantidade de dados que precisam de tempos de resposta rápidos.

“Agora que você pode fazer IA no limite, pode transformar a IoT em algo com recursos reais”, disse Levy da NXP.

>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>

Para obter mais cobertura sobre IoT Industrial, participe do Industrial IoT World em dezembro.