Nvidia GTC:Novo módulo Jetson oferece 200 TOPS para Edge AI incorporado

Anunciado na Nvidia GTC é o Nvidia Jetson AGX Orin, que a empresa disse ser o menor, mais poderoso e eficiente supercomputador de IA do mundo para robótica, máquinas autônomas, dispositivos médicos e outras formas de computação embarcada de ponta.

Construído na arquitetura Nvidia Ampere, o Jetson AGX Orin oferece 6x mais potência de processamento e mantém o formato e compatibilidade de pinos com seu predecessor, Jetson AGX Xavier. Ele entrega 200 trilhões de operações por segundo, semelhante ao de um servidor habilitado para GPU, mas em um tamanho que cabe na palma da sua mão.

O novo computador Jetson acelera a pilha de software Nvidia AI completa, permitindo aos desenvolvedores implantar os modelos maiores e mais complexos necessários para resolver os desafios de IA e robótica de ponta na compreensão da linguagem natural, percepção 3D e fusão multisensor.

“À medida que a robótica e a computação incorporada transformam manufatura, saúde, varejo, transporte, cidades inteligentes e outros setores essenciais da economia, a demanda por processamento continua a crescer”, disse Deepu Talla, vice-presidente e gerente geral de computação incorporada e de ponta da Nvidia . “O Jetson AGX Orin atende a essa necessidade, permitindo que 850.000 desenvolvedores do Jetson e mais de 6.000 empresas que desenvolvem produtos comerciais nele criem e implantem máquinas autônomas e aplicativos de IA de ponta que antes pareciam impossíveis.”

O Jetson AGX Orin apresenta uma GPU de arquitetura Nvidia Ampere e CPUs Arm Cortex-A78AE, junto com aprendizado profundo de próxima geração e aceleradores de visão. Interfaces de alta velocidade, largura de banda de memória mais rápida e suporte a sensor multimodal fornecem a capacidade de alimentar vários pipelines de aplicativos AI simultâneos.

Suporte de software e ecossistema
Os clientes que usam o Jetson AGX Orin podem aproveitar a pilha de computação acelerada CUDA-X, o JetPack SDK e as ferramentas mais recentes da Nvidia para desenvolvimento e otimização de aplicativos, incluindo fluxos de trabalho de desenvolvimento nativos da nuvem. Modelos pré-treinados do catálogo Nvidia NGC são otimizados e prontos para o ajuste fino com o kit de ferramentas TAO e conjuntos de dados do cliente. Isso reduz o tempo e o custo para implantações de IA de qualidade de produção, enquanto as tecnologias nativas da nuvem permitem atualizações perfeitas ao longo da vida do produto.

O ecossistema de parceiros de computação embarcada da Jetson abrange uma ampla gama de serviços e produtos, incluindo câmeras e outros sensores multimodais, placas de transporte, serviços de design de hardware, IA e software de sistema, ferramentas de desenvolvedor e desenvolvimento de software personalizado.

“Impulsionado pelos avanços em IA, o mercado de robótica está crescendo exponencialmente”, disse Jim McGregor, analista principal da TIRIAS Research. “A Nvidia é reconhecida como líder em IA e continua a alavancar essa experiência para avançar a robótica por meio de um ecossistema robusto e soluções completas de ponta a ponta, incluindo uma variedade de plataformas de hardware que alavancam ferramentas comuns e modelos de rede neural. A nova plataforma Jetson traz o desempenho e a versatilidade da arquitetura Nvidia Ampere para permitir avanços ainda maiores em robôs móveis autônomos para uma ampla gama de aplicações, desde agricultura e manufatura até saúde e cidades inteligentes. ”

Para casos de uso específicos, as estruturas de software incluem Nvidia Isaac Sim no Omniverse para robótica, Nvidia Clara Holoscan SDK para saúde e Nvidia DRIVE para direção autônoma. A versão mais recente do Isaac inclui suporte significativo para a comunidade de desenvolvedores do Robot Operating System (ROS). A Nvidia também lançou o novo Omniverse Replicator para geração de dados sintéticos e Isaac GEMs, pacotes de software acelerado por hardware que tornam mais fácil para os desenvolvedores ROS construir robôs habilitados para IA de alto desempenho na plataforma Jetson.

Sensor em tempo real para instrumentos e dispositivos médicos
O AGX Orin capacita a Nvidia Clara Holoscan, uma nova plataforma de computação para o setor de saúde que permite aos desenvolvedores construir dispositivos médicos definidos por software que executam aplicativos de streaming de baixa latência no limite. Esse poder de processamento é necessário para dispositivos como cirurgia robótica, endoscopia e sistemas de diagnóstico por imagem para processar física, imagem e visualização e permitir suporte de decisão de IA em tempo real para médicos. Clara Holoscan oferece aos desenvolvedores uma plataforma flexível para criar microsserviços de IA que executam aplicativos de streaming de baixa latência em dispositivos, enquanto passam tarefas mais complexas para o data center.

Assistentes de IA de transporte
O DRIVE AGX Orin, também equipado com a arquitetura Ampere, como o Jetson AGX Orin, é uma plataforma para a indústria de transporte. É o processador avançado por trás do recém-anunciado Nvidia DRIVE concierge e DRIVE chauffeur - duas plataformas de IA dedicadas a redefinir a experiência do passageiro dentro do carro por meio de assistentes de IA e para permitir uma direção segura e autônoma, respectivamente. Inúmeros fabricantes globais de automóveis e caminhões, startups de novos veículos de energia e empresas de transporte estão usando sua computação de IA de alto desempenho para sua próxima geração de soluções de mobilidade definidas por software inteligentes.

O módulo Jetson AGX Orin e o kit de desenvolvedor estarão disponíveis no primeiro trimestre de 2022.