Zebra da Mipsology Transforma Código IA de GPU em Aceleradores FPGA com Um Comando

A Mipsology, startup de software IA inovadora, fez parceria com a Xilinx para desbloquear o potencial total de FPGAs para workloads de IA. Sua solução "zero-esforço", Zebra, traduz código GPU existente para que possa rodar no motor de computação IA customizado da Mipsology em um FPGA — sem mudanças de código ou retreinamento necessários.

Hoje a Xilinx enviou o Zebra com o build mais recente de seu cartão acelerador de data center Alveo U50, adicionando conversão GPU-para-FPGA seamless ao dispositivo out-of-the-box. O Zebra já acelera inferência em outras placas Xilinx, incluindo Alveo U200 e Alveo U250.

"A aceleração que o Zebra entrega em nossos cartões Alveo supera CPUs e GPUs," disse Ramine Roane, vice-presidente de marketing da Xilinx. "Com o Zebra, o Alveo U50 satisfaz as demandas de flexibilidade, desempenho, alta vazão e baixa latência de workloads de IA, tornando-o uma escolha convincente para qualquer implantação."

FPGAs Plug-and-Play

Historicamente, FPGAs foram percebidos como complexos de programar, especialmente para não-especialistas. A visão da Mipsology é tornar FPGAs uma plataforma plug-and-play — igualmente simples de usar como CPU ou GPU. O objetivo é permitir que usuários mudem de aceleradores tradicionais para FPGA com uma única linha de código.

"A Mipsology é essencialmente o CUDA das FPGAs," disse o CEO Ludovic Larzul em entrevista à EE Times. "Fornecemos software que abstrai a FPGA para que usuários de IA possam focar no modelo, não no hardware."

Criticamente, esta transição é alcançável por não-especialistas. Nenhuma expertise profunda em IA ou FPGA é necessária, e o modelo não precisa ser retreinado.

"Facilidade de uso é primordial. Muitos projetos de IA são gerenciados por equipes que não têm especialista interno de IA ou FPGA," Larzul explicou. "Eles podem desenvolver redes neurais em outro lugar, e uma vez que um modelo é treinado, eles querem implantá-lo sem redesenhá-lo."

Por que Não Vitis?

A Xilinx já oferece Vitis, uma toolchain abrangente para levar FPGAs a data scientists e desenvolvedores. Então por que fazer parceria com terceiros? Larzul diz que a resposta é simples: performance e simplicidade.

"Estamos fazendo melhor," ele disse. "E estamos fazendo do jeito certo."

O Zebra da Mipsology é inteiramente independente de Vitis, XDNN ou do engine acelerador de rede neural da Xilinx. Em vez disso, roda em um engine de computação dedicado que nativamente suporta modelos convolutional neural network (CNN) existentes dos clientes. Em contraste, XDNN, embora capaz, é menos adequado a redes customizadas e pode ser incômodo de integrar.

"Estamos posicionados para deixar FPGAs enfrentarem GPUs de frente, igualando-os em performance, custo e usabilidade," Larzul adicionou.

Custo é um driver primário para muitos clientes. "Eles querem custos de hardware menores sem redesenhar a rede," Larzul disse. "Ao eliminar retreinamento e modificação de rede, reduzimos o custo de engenharia não-recorrente."

FPGAs também oferecem confiabilidade superior. Como consomem menos silício e operam a temperaturas mais baixas que GPUs, incorrem em menores custos de manutenção a longo prazo — consideração importante para operadores de data center.

"Custo total de propriedade inclui mais que apenas o preço da placa," Larzul enfatizou. "Também cobre manter o sistema operacional."

O Zebra é projetado para fechar a lacuna de performance. Embora FPGAs tipicamente entreguem menos tera-operações por segundo (TOPS) que outros aceleradores, o engine de computação do Zebra maximiza eficiência. "Nossa FPGA pode processar mais imagens por segundo que uma GPU com seis vezes o TOPS," Larzul afirmou.

Como isso é alcançado? Embora detalhes específicos sejam proprietários, Larzul notou que o Zebra evita pruning (que degradaria precisão sem retreinamento) e evita quantização extrema abaixo de 8-bit, preservando fidelidade do modelo.

Além de CNNs — dominantes em tarefas de imagem e vídeo — o Zebra também suporta BERT, modelo NLP do Google que compartilha estruturas matemáticas subjacentes. Lançamentos futuros podem mirar arquiteturas LSTM e RNN, embora apresentem desafios adicionais.

A Equipe por Trás do Zebra

Fundada em 2015, a Mipsology emprega cerca de 30 engenheiros de P&D na França, com uma equipe enxuta de desenvolvimento de negócios na Califórnia. A empresa levantou US$ 7 milhões, incluindo prêmio de US$ 2 milhões de competição de inovação do governo francês em 2019.

O talento central da Mipsology vem da EVE, empresa de emulação ASIC adquirida pela Synopsys em 2012 por seus produtos de verificação ZeBu. A tecnologia da EVE — alavancando milhares de FPGAs interconectados para replicar comportamento ASIC — foi usada por grandes vendors ASIC mundialmente.

Com 12 patentes pendentes, a Mipsology trabalha de perto com a Xilinx e permanece compatível com cartões aceleradores third-party, como Western Digital small-form-factor (SFF U.2) e Advantech Vega-4001.

>> Este artigo foi originalmente publicado em nosso site irmão, EE Times.