TinyML: Engenheiros se Unem para Padronizar IA para Sistemas de Ultra-Baixa Potência

SUNNYVALE, Califórnia — Quase 200 engenheiros e pesquisadores se reuniram para lançar uma comunidade dedicada ao avanço do TinyML, o campo emergente que leva deep learning a sistemas de ultra-baixa potência.

"Não há falta de ideias inovadoras", disse Ian Bratt, fellow de machine learning na Arm, na abertura da sessão.

Quatro anos atrás, o progresso havia estagnado. A chegada de novos formatos de ponto flutuante e técnicas de compressão reacendeu o entusiasmo, mas uma lacuna significativa permanece entre a pesquisa de ponta e soluções comercialmente viáveis, explicou Bratt.

O ecossistema de software parece um faroeste — fragmentado e dominado por gigantes corporativos como Amazon, Google e Facebook, cada um empurrando seus próprios frameworks. O desafio para engenheiros de hardware é entregar produtos amplamente utilizáveis, ele acrescentou.

Um engenheiro da STMicroelectronics ecoou esse sentimento. "Acabei de perceber que existem pelo menos quatro compiladores de IA, e os chips de próxima geração ficarão fora do kit de ferramentas tradicional do designer embarcado. Estabilizar interfaces de software e investir em interoperabilidade — através de um comitê de padrões — são essenciais", disse ele.

Pete Warden, co-presidente do grupo TinyML e líder técnico do TensorFlow Lite, alertou que padrões de software podem ainda ser prematuros. "Pesquisadores revisam constantemente operações, arquiteturas, pesos, compressão, formatos e quantização. A semântica está em fluxo, e devemos acompanhar", disse ele.

Warden acrescentou que, nos próximos anos, aceleradores que não conseguirem executar computações de propósito geral para suportar novas operações ou funções de ativação se tornarão obsoletos. Daqui a dois anos, novas operações provavelmente surgirão, alertou.

Um pesquisador de IA da Microsoft concordou. "Ainda estamos longe de onde deveríamos estar, e não chegaremos lá em um ou dois anos. Foi por isso que a Microsoft investiu em FPGAs para acelerar seus serviços de nuvem Azure", disse ele. "Construir as camadas de abstração certas é crucial para inovação em hardware. Um acelerador de hardware open-source poderia acelerar o progresso", acrescentou.

Bratt propôs que um padrão de conformidade pode ser o primeiro passo, garantindo que pesquisadores tenham uma experiência consistente edge-nuvem, sugeriu.

O professor de Princeton Naveen Verma, cujo trabalho foca em processadores de IA em memória, enfatizou a necessidade de especificações funcionais robustas em todos os níveis. "Se pudermos definir specs claras em níveis suficientes, isso abrirá caminhos para outras camadas, e esta comunidade está exclusivamente posicionada para defini-las", disse ele.