Novos módulos de aceleração AI melhoram o desempenho da borda

A fabricante de chips de inteligência artificial (AI) Hailo lançou seus módulos de aceleração de AI de alto desempenho M.2 e Mini PCIe para capacitar dispositivos de ponta. Com base em seu processador Hailo-8, os módulos podem ser conectados a uma variedade de dispositivos de ponta, permitindo que recursos de IA sejam implantados em cidades inteligentes, varejo inteligente, indústria 4.0 e casas inteligentes.

Os módulos permitem que os clientes integrem recursos de IA de alto desempenho em dispositivos de ponta, fornecendo uma solução otimizada para acelerar uma variedade de aplicativos baseados em aprendizado profundo com alta eficiência - otimizando o tempo de lançamento no mercado com um formato padrão.

Os módulos de aceleração de IA do Hailo se integram perfeitamente a estruturas padrão, como TensorFlow e ONNX, que são compatíveis com o compilador de fluxo de dados do Hailo. Os clientes podem portar rapidamente suas redes neurais (NNs) para o processador Hailo-8.

As soluções de plug-in chegam em um momento em que as indústrias estão cada vez mais utilizando dispositivos de ponta que são de alto desempenho e econômicos. Por exemplo, caixas de borda AI sem ventilador estão em alta demanda, pois permitem que muitas câmeras ou sensores sejam conectados a um único dispositivo de processamento inteligente em implantação externa. Os módulos Hailo - com seu processador Hailo-8 AI entregando 26 Tera-Operações por Segundo (TOPS) e eficiência de energia de 3 TOPS / W - podem ser conectados a qualquer dispositivo existente com os soquetes M.2 ou Mini PCIe apropriados, proporcionando desempenho enquanto reduz a latência e melhora a privacidade.

Uma comparação entre a média de frames por segundo do Hailo-8 (FPS) com concorrentes em vários benchmarks NN padrão (com base nas últimas figuras publicadas) mostra que os módulos AI da Hailo atingem uma taxa de FPS 26x maior do que os módulos Myriad-X da Intel e 13x maior do que Módulos TPU de ponta do Google.

De acordo com Orr Danon, CEO da Hailo, “Os fabricantes de todos os setores entendem como é crucial integrar recursos de IA em seus dispositivos de ponta. Simplificando, as soluções sem IA não podem mais competir. Nossos novos módulos Hailo-8 M.2 e Mini PCIe capacitarão empresas em todo o mundo a criar novos produtos baseados em IA inovadores, econômicos e poderosos com um curto tempo de lançamento no mercado - enquanto permanecem dentro das restrições térmicas dos sistemas. A alta eficiência e desempenho superior dos módulos da Hailo são um verdadeiro trocador de jogos para o mercado de ponta. ”

O módulo Hailo-8 M.2 já está integrado na próxima geração do BOXiedge da Foxconn - um miniservidor de 24 núcleos que só precisa de 30 watts de potência para funcionar - sem necessidade de redesenho para o PCB. A solução oferece boa eficiência energética para nós de inferência de IA autônomos, beneficiando aplicativos que incluem cidades inteligentes, varejo inteligente, indústria 4.0 e medicina inteligente.

“A integração do módulo M.2 AI da Hailo em nosso BOXiedge está revolucionando nossos dispositivos de computação de ponta de última geração e nos permitirá continuar apoiando nossa missão de criar produtos inovadores, eficientes e competitivos para a indústria eletrônica”, disse Gene Liu, VP do subgrupo de semicondutores do Foxconn Technology Group. “Os módulos M.2 e Mini PCIe da Hailo, juntamente com o chip Hailo-8 AI de alto desempenho, permitirão que muitas indústrias em rápida evolução adotem tecnologias avançadas em um tempo muito curto, inaugurando uma nova geração de alto desempenho e baixo consumo de energia, e soluções baseadas em IA mais inteligentes. ”