Elevando Edge AI: Desbloqueando Desempenho e Eficiência Energética Sem Precedentes

A evolução da tecnologia é uma história familiar, e a inteligência artificial não é exceção. Cada nova geração de chips de IA adiciona mais MACs, quantização mais profunda e recursos adicionais – tudo em busca de maior TOPS/Watt. No entanto, à medida que a expertise dos usuários cresce, a demanda muda da simples usabilidade para flexibilidade algorítmica incomparável, vazão máxima e consumo mínimo de energia.

Através da plataforma CEVA NeuPro, introduzimos com sucesso soluções de edge-AI em diversos mercados. Usuários atuais querem mais do que atualizações incrementais; eles exigem melhorias revolucionárias que lhes permitam superar o estado da arte em uma ordem de magnitude.

Medindo Impacto no Mundo Real

Embora TOPS/Watt seja um benchmark conveniente, ele falha em aplicações reais. Para inferência visual, frames por segundo por watt (FPS/W) é muito mais significativo. Em segurança automotiva, por exemplo, um motor de percepção deve processar pelo menos 100 FPS com o menor consumo de energia possível, pois atrasos podem significar a diferença entre uma parada segura e um acidente. Alcançar tal desempenho exige FPS/W muito superior ao que métricas convencionais sugerem.

A oportunidade de mercado é clara. Automotivo e telecomunicações estão prontos para impulsionar a maior parte do crescimento de edge-AI, com imagem inteligente já dominando o automotivo e a tendência “muitas câmeras” remodelando smartphones. Câmeras modernas de smartphones estão substituindo algoritmos legados por redes neurais para redução de ruído, estabilização e super-resolução, tudo rodando a 60 fps dentro de envelopes de energia apertados.

O que um Grande Avanço Exige

Embora IA analógica e redes neurais spiking ofereçam possibilidades intrigantes, fabricantes de produtos ainda precisam de soluções escaláveis que possam atingir volume hoje. Isso deixa um vasto potencial algorítmico: opções extensas de quantização, suporte Winograd, otimizações de esparsidade, manipulação de diversos tipos de dados em variados tamanhos de bits, processamento vetorial paralelo, compressão de dados, decomposição de matrizes e suporte para arquiteturas de próxima geração, como transformers e convoluções 3D. Essas capacidades podem entregar até 50:1 de aceleração sobre redes de referência.

Um Chamado à Ação

Desenvolvedores experientes de IA agora sabem exatamente o que precisam para construir. O que eles requerem é uma plataforma que forneça todos os componentes e otimizações de rede neural em que confiam, permitindo-lhes criar a solução ideal para seu produto.

Isso é mais do que uma lista de desejos; é um roteiro para o desempenho inovador, vazão e baixo consumo que a edge AI avançada exige. Fabricantes não podem mais se contentar com ganhos incrementais – eles esperam plataformas que correspondam à sua profunda compreensão das possibilidades de IA.

Para saber mais sobre o trabalho da CEVA em edge AI, clique aqui.

Roni Sadeh tem mais de 20 anos de experiência em design de processadores e aceleradores, focando em soluções de software e hardware relacionadas a IA para áudio, fala e visão computacional. Ele está desenvolvendo a próxima geração de aceleradores de IA escaláveis para centenas de TOPs.

Roni possui B.Sc. em Engenharia Aeronáutica pela Universidade Technion.