Qualcomm Revela Cloud AI 100: Acelerador Edge AI Eficiente em Potência para 5G e Além

Quase 18 meses após seu unveiling inicial em abril de 2019, a Qualcomm confirmou que o silício Cloud AI 100 está em produção e será enviado durante o primeiro semestre de 2021. A empresa também divulgou form factors de card e benchmarks de performance que sublinham sua prontidão para workloads de edge-AI.

Enquanto a Qualcomm longamente dominou o mercado de smartphones com sua linha Snapdragon, sua linha server-grade Centriq anterior foi descontinuada em 2018. O Cloud AI 100 marca a entrada estratégica da Qualcomm no mercado near-edge server, entregando inferência de IA de alta throughput com eficiência de potência excepcional.

Cloud AI 100 da Qualcomm é desenhado para workloads near-edge AI como infraestrutura 5G e enterprise data centers.

Form Factors e Performance

A Qualcomm inicialmente oferecerá o Cloud AI 100 em três formatos de card:

• Dual M.2 Edge (DM.2e) — mais de 50 TOPS a 15 W
• Dual M.2 (DM.2) — 200 TOPS a 25 W
• PCIe — até 400 TOPS a 75 W

Estas figuras representam os “raw” TOPS teóricos e não contabilizam overhead de aplicação real. Ainda, curvas de performance próprias da Qualcomm mostram a versão PCIe superando muitas soluções líderes enquanto consome apenas uma fração da potência.

Throughput de inferência ResNet-50 versus consumo de potência. Cards da Qualcomm lideram em eficiência de potência, com batch size de 8 (exceto Nvidia A100).

John Kehrli, Senior Director de Product Management da Qualcomm, notou: “Trazemos mais de uma década de R&D de IA de nossas plataformas móveis para este novo core. Enquanto a arquitetura difere do Snapdragon, a expertise e performance por watt são evidentes.”

Arquitetura do Chip

O Cloud AI 100 é um acelerador de inferência construído em processo 7 nm FinFET. Ele abriga até 16 AI cores que suportam precisão INT8, INT16, FP16 e FP32. O die contém 144 MB de SRAM on-chip (128 MB shared, 1 MB por core) e interfaceia com até 32 GB de DRAM LPDDR4x (4×64 LPDDR4x a 2,1 GHz), entregando alta banda de memória essencial para workloads de IA.

Aplicações-Alvo

O acelerador é adaptado para uma ampla gama de casos de uso edge, incluindo computer vision, speech recognition, autonomous driving, language translation e recommendation engines. A Qualcomm está posicionando o Cloud AI 100 para quatro mercados primários:

• Data centers na borda da nuvem
• Advanced Driver Assistance Systems (ADAS)
• 5G edge boxes (dispositivos standalone on-premise para smart city e enterprise use)
• Infraestrutura 5G (beam-forming AI-powered e otimização de base-station)

No espaço de autonomous driving, um derivado do Cloud AI 100 alimenta a plataforma Snapdragon Ride da Qualcomm, alavancando a mesma arquitetura e software stack.

Reference Design & Development Kit

A Qualcomm introduziu um novo development kit apresentando reference design para uma 5G edge box alimentada pelo Cloud AI 100. O kit emparelha o acelerador com um host processor Snapdragon 865, oferecendo pipelines de vídeo completos que suportam até 24 streams de full-HD video decode. Também inclui um modem Snapdragon X55 5G pré-certificado.

Kehrli enfatizou: “Este kit habilita clientes a lançar aplicações demo imediatamente. Vem pré-compilado com ResNet-50, fornecendo quick start para soluções edge AI.”

Timeline de Deployment

A Qualcomm espera deployments comerciais iniciais focarem em cenários edge — smart cities, retail analytics e manufatura — devido a ciclos de certificação mais curtos. Sampling do Cloud AI 100 já está em andamento com clientes selecionados, e o development kit fará sampling no próximo mês para audiência limitada.

Nota: Este artigo foi publicado originalmente no EE Times.