Qualcomm prepara oferta de IA de ponta

Quase 18 meses após o anúncio inicial do acelerador Cloud AI 100 AI, a Qualcomm divulgou mais alguns detalhes dos fatores de forma da solução em que esse chip estará disponível e alguns números de desempenho para essas placas. A gigante do silício móvel revelou que o silício final Cloud AI 100 está em produção e será lançado no primeiro semestre de 2021.

O Cloud AI 100 foi lançado há quase 18 meses, em abril de 2019. Enquanto a Qualcomm domina o mercado de processadores para smartphones com sua linha Snapdragon, as ofertas da Qualcomm para servidores não haviam decolado - sua linha Centriq baseada em Arm foi retirada em 2018 apenas um ano depois lançar. O fabricante de silício móvel, portanto, vê o Cloud AI 100 como uma forma de entrar no mercado de servidores de ponta.

O Cloud AI 100 da Qualcomm é voltado para aplicativos de ponta, incluindo data centers corporativos e infraestrutura 5G (Imagem:Qualcomm)

Fatores de forma

Embora muitos detalhes do chip Cloud AI 100 ainda estejam em segredo, agora sabemos que ele estará disponível em três tipos de cartão inicialmente. Estes são um fator de forma de borda dupla M.2 (DM.2e) que oferece mais de 50 TOPS a 15 Watts, uma placa M.2 dupla (DM.2) que é configurada para 200 TOPS a 25 Watts e uma placa PCIe que vem em cerca de 400 TOPS a 75 Watts. (A Qualcomm observou que esses são números TOPS "brutos", o máximo teórico, e não representam o cálculo que pode ser alcançado em um aplicativo real).

A Qualcomm parece ter transferido sua habilidade em design de processador de baixo consumo de energia do espaço móvel para o mercado de aceleradores de IA de ponta. Embora o design do Cloud AI 100 não seja baseado nos blocos de aceleração AI encontrados nos processadores Snapdragon, os valores de desempenho por Watt parecem impressionantes. Os slides mostrados pela Qualcomm durante seu briefing de mídia continham um gráfico que mostrava a versão da placa PCIe do Cloud AI 100 superando muitas das soluções mais populares do setor, usando apenas uma fração da potência. Esses são números de desempenho medidos em comparação com números publicamente observados de outros fornecedores, de acordo com a Qualcomm.

clique para ampliar a imagem

Inferências Resnet-50 AI por segundo para hardware de inferência AI popular versus consumo de energia, de acordo com os números da Qualcomm. As placas da Qualcomm parecem ter um desempenho particularmente bom quando se trata de eficiência de energia. O tamanho do lote é 8 para todos os pontos no gráfico, exceto Nvidia A100. (Imagem:Qualcomm)

“Na Qualcomm, temos uma longa tradição em P&D de IA”, disse John Kehrli, diretor sênior de gerenciamento de produto da Qualcomm. “Na verdade, estamos em nossa solução de quinta geração do lado móvel, temos mais de 11 anos de P&D muito ativo. Portanto, estamos aproveitando esse conhecimento, essa experiência do setor, mas este é um núcleo de IA diferente, não é o mesmo que móvel, mas estamos aproveitando a partir desse espaço. ”

O Cloud AI 100 é um acelerador de inferência com até 16 núcleos de processador AI que suportam INT8, INT16, FP16 e FP32. É construído em uma tecnologia de processo FinFET de 7 nm. Há até 144 MB de SRAM no chip - 128 MB são compartilhados entre os núcleos, com cada núcleo tendo 1 MB adicional. O cartão suporta até 32 GB de DRAM no nível do cartão com largura de banda de memória de 4x 64 LPDDR4x funcionando a até 2,1 GHz.

Aplicativos Edge

O Cloud AI 100 pode ser usado para sistemas de visão computacional, fala, direção autônoma, tradução de idiomas e recomendação. Hoje, a Qualcomm está posicionando seu silício Cloud AI 100 para inferência de IA em quatro mercados principais. São datacenters fora da nuvem, ADAS, edge box 5G e infraestrutura 5G.

A inferência de IA em data centers na borda da nuvem potencializa tudo, desde mecanismos de recomendação usados ​​para veicular anúncios e personalizar feeds de notícias até computação de IA com maior demanda por computação específica de aplicativos.

O que a Qualcomm chama de “caixas de borda 5G” são mais como dispositivos autônomos integrados no local. Eles podem ser implantados como parte da infraestrutura de cidade inteligente em postes telegráficos ou em empresas e usados ​​para conduzir aplicativos de cidade inteligente, segurança pública e gerenciamento de tráfego.

Um derivado do Cloud AI 100 é usado para impulsionar o processamento de IA para direção autônoma na plataforma Qualcomm Snapdragon Ride (este derivado compartilha uma arquitetura comum e uma cadeia de ferramentas de software, disse Kehrli).

A aplicação do Cloud AI 100 na infraestrutura 5G seria para acelerar algoritmos complexos, como a formação de feixes, que agora usam AI para gerenciar com eficiência as estações base 5G.

Design de Referência

A Qualcomm também anunciou seu novo kit de desenvolvimento Cloud AI 100. Isso inclui um design de referência para um edge box 5G alimentado pela Cloud AI 100 ao lado de um aplicativo Snapdragon 865 e processador de vídeo como um processador host (que fornece um pipeline de vídeo completo com suporte para até 24 streams de decodificação de vídeo full HD, com espaço para o cliente desenvolvimento de aplicativos). O design de referência também usa um módulo 5G pré-certificado baseado em um modem Snapdragon X55 5G.

“Esta é realmente uma oportunidade greenfield para nós que estamos muito entusiasmados”, disse Kehrli. “O objetivo [para o kit de desenvolvimento] é que os clientes interessados ​​neste espaço executem de forma rápida e fácil um aplicativo de demonstração pronto para uso - ele ainda vem com um ResNet-50 pré-compilado como demonstração.”

Uma caixa de borda 5G como essa pode fazer análises locais para streaming de vídeo de segurança em um shopping center ou um aplicativo de segurança em uma fábrica, disse Kehrli.

Programação

Os primeiros clientes a adotar o Cloud AI 100 provavelmente estarão no limite, em cidades inteligentes, varejo e manufatura, disse Kehrli.

“Espero que nossas primeiras implantações comerciais sejam mais periféricas do que de data center, onde há um ciclo muito, muito mais longo para colocá-lo em produção”, disse ele. “Isso não quer dizer que não tenhamos tração e oportunidades significativas, mas espero que as implantações de ponta 5G sejam muito mais rápidas e coisas como nosso módulo 5G pré-certificado tornam isso muito mais fácil. Muitos desses clientes com os quais trabalhamos não são seus clientes móveis tradicionais. Assim, fornecendo a eles uma solução que já está pré-certificada, eles podem rapidamente entrar no mercado. Portanto, [os aplicativos] nesse espaço surgirão com mais rapidez ”.

O silício final para o Qualcomm Cloud AI 100 foi para a produção, está em fase de amostragem agora para vários clientes e será enviado durante o primeiro semestre de 2021. O kit de desenvolvimento de borda será testado no próximo mês, mas apenas para clientes selecionados.

>> Este artigo foi publicado originalmente em nosso site irmão, EE Times.