Chip TSP AI da Groq Agora Alimenta Cargas de Trabalho na Nuvem via Nimbix

O tensor streaming processor (TSP) de silício da Groq foi adicionado à nuvem, permitindo clientes acelerarem cargas de trabalho AI on‑demand. A Nimbix agora oferece aceleração machine‑learning baseada em TSP exclusivamente a clientes selecionados.

Na arena competitiva de silício AI para data‑center, a Groq está ao lado da Graphcore como as únicas startups com aceleradores comercialmente disponíveis integrados a serviços de nuvem. Chips da Graphcore já são oferecidos através do Microsoft Azure.

"A arquitetura de processamento simplificada da Groq é única, fornecendo desempenho determinístico sem precedentes para workloads compute‑intensive, e é adição excitante à nossa plataforma cloud‑based de AI e Deep Learning," disse Steve Hebert, CEO da Nimbix.

Groq é apenas a segunda startup de acelerador AI a disponibilizar hardware na nuvem (Imagem: Groq)

Lançado no outono passado, o chip TSP da Groq entrega staggering 1.000 TOPS (1 peta operations per second). Em benchmarks recentes, o chip atingiu 21.700 inferências ResNet‑50 v2 por segundo — mais que o dobro da velocidade de sistemas contemporâneos baseados em GPU — sublinhando seu status como um dos processadores neurais mais rápidos comercialmente.

"Estes resultados ResNet‑50 são validação de que arquitetura única e abordagem da Groq para aceleração machine learning entrega performance de inferência substancialmente mais rápida que competidores," disse Jonathan Ross, co‑fundador e CEO da Groq. "Estes proof points reais, baseados em benchmarks industry‑standard e não simulações ou emulação de hardware, confirmam ganhos mensuráveis de performance para aplicações machine learning e inteligência artificial possibilitados pelas tecnologias da Groq."

O design da Groq atinge paralelismo massivo necessário para aceleração deep‑learning sem overhead de sincronização típico de CPUs e GPUs. Ao offload lógica de controle para o compilador — hallmark da estratégia software‑driven da Groq — a empresa entrega performance fully deterministic, previsível que pode ser quantificada em compile time.

Vantagem destacada é que ganhos de performance da Groq não dependem de batching, tática comum de data‑center que processa múltiplas amostras simultaneamente para boost throughput. O chip TSP atinge pico de performance mesmo em batch = 1, ideal para streams de inferência real‑time. Enquanto chip oferece vantagem moderada de 2,5× latência sobre GPUs em large batch sizes, a vantagem sobe para 17× em batch = 1.