NVIDIA e VMware Fazem Parceria para Acelerar Eficiência de Custos de IA com Virtualização de GPU

Ao aumentar as taxas de utilização de GPUs, o custo de construir e implantar aplicações de IA diminuirá substancialmente.

Na conferência VMworld 2019 hoje, NVIDIA e VMware anunciaram que conjuntamente tornarão possível implantar máquinas virtuais VMware em unidades de processamento gráfico (GPUs).

Como parte desta iniciativa, a NVIDIA anunciou que seu software de GPU virtual (vGPU) agora pode ser implantado em máquinas virtuais em servidores, além do suporte existente para sistemas cliente. O software NVIDIA Virtual Compute Server (vComputeServer) para GPUs também está sendo estendido para adicionar suporte para plataformas VMware vSphere. A NVIDIA também se comprometeu a tornar seu hub para acessar ferramentas para construir aplicações de inteligência artificial (IA) disponível em plataformas VMware.

Veja também: Quais São os 3 Componentes-Chave da Prontidão para Inteligência Artificial?

Usando estas tecnologias NVIDIA, a VMware se comprometeu a disponibilizar um serviço de nuvem consistindo de instâncias bare metal Amazon EC2 aceleradas por GPUs NVIDIA T4 rodando software vComputeServer no VMware Cloud on AWS.

Coletivamente, esses avanços não apenas têm implicações significativas para melhorar a utilização de GPUs, eles também tornam possível para cientistas de dados agregar múltiplas cargas de trabalho em GPUs rodando em servidores VMware residindo on-premises ou na nuvem, diz John Fanelli, vice-presidente de produto para NVIDIA Grid.

Embora o interesse em empregar GPUs para construir aplicações de inteligência artificial (IA) tenha sido massivo, o custo de construir essas aplicações muitas vezes foi proibitivo. Na ausência de uma máquina virtual, cada GPU foi anteriormente dedicada a rodar uma carga de trabalho por vez. Ao aumentar as taxas de utilização de GPUs, o custo de construir e implantar aplicações de IA diminuirá substancialmente, diz Fanelli.

Isso é crítico porque esses custos inibiram organizações de investir mais em aplicações de IA que têm o potencial de transformar quase todos os aspectos da existência humana.

"IA é a tecnologia mais poderosa do nosso tempo," diz Fanelli.

O desempenho dessas cargas de trabalho de IA rodando em máquinas virtuais, no entanto, variará dependendo de seus atributos individuais, diz Fanelli. Muitos desenvolvedores poderão compensar quaisquer problemas de desempenho aproveitando um toolkit NVIDIA CUDA para executar cargas de trabalho de IA em paralelo, observou Fanelli.

À medida que se torna mais acessível construir e implantar aplicações de IA eficientemente, o número de projetos de IA que serão lançados nos próximos meses deve aumentar. Para acelerar esse processo, a VMware também disse que os clientes poderão migrar cargas de trabalho para instâncias GPU rodando em data centers locais para a nuvem usando ferramentas VMware HCX que automatizam o movimento de máquinas virtuais e aceleram a transferência de dados entre plataformas.

GPUs acessadas principalmente na nuvem tornaram-se a plataforma preferida para treinar modelos de IA devido à eficiência com que GPUs gerenciam memória e overhead de I/O. A NVIDIA, no entanto, tem defendido com sucesso misto que também se confie em GPUs para rodar os motores de inferência necessários para executar esses modelos de IA no lugar de servidores x86. Ao adicionar suporte para máquinas virtuais de servidor ao seu software, deve se tornar muito mais viável rodar múltiplos motores de inferência na mesma plataforma GPU da mesma forma que motores de inferência são implantados em plataformas x86.

Claro, ter acesso a recursos de infraestrutura adicionais não garante necessariamente sucesso em IA. Esses recursos, no entanto, ajudarão muito a reduzir o custo de errar durante o processo de desenvolvimento de IA.