Aproveitando DSPs para IA de Áudio em Tempo Real na Edge

Aproveitando DSPs para IA de Áudio em Tempo Real na Edge

Antes confinada a servidores na nuvem com recursos virtualmente ilimitados, a aprendizagem de máquina está agora migrando para dispositivos de edge. Menor latência, custo reduzido, eficiência energética e privacidade aprimorada impulsionam essa mudança. Por exemplo, um carro autônomo não pode se dar ao luxo do atraso no envio de dados para a nuvem para reconhecimento de pedestres, e os custos de largura de banda podem tornar o reconhecimento de fala baseado na nuvem proibitivo.

Por que o Processamento na Edge Importa

Os trade-offs energéticos entre transmitir dados e realizar inferência local são críticos. Cargas de trabalho complexas de ML podem drenar a bateria de um dispositivo se não forem executadas de forma eficiente. A inferência na edge também mantém dados sensíveis — como e-mails ditados por voz — no dispositivo, protegendo a privacidade do usuário.

Wake de Voz Always-On de Baixa Potência

Detecção de palavras-chave (ex.: "Hey Siri" ou "OK Google") é um dos primeiros casos de uso de ML na edge. Executar essa detecção em um processador de aplicação genérico pode consumir mais de 100 mW, esgotando rapidamente a bateria de um smartphone. Os primeiros telefones moveram o algoritmo para um pequeno DSP que operava a <5 mW, e microfones inteligentes modernos agora realizam a mesma tarefa em um DSP de áudio-ML especializado a <0,5 mW.

Além da Voz: Expandindo Capacidades na Edge

Uma vez que um dispositivo suporte ML de áudio always-on, ele pode reconhecer pistas contextuais: restaurantes lotados, ruas movimentadas, música ambiente, assinaturas ultrassônicas de salas, ou gritos e risadas próximas. Esses recursos permitem casos de uso sofisticados que beneficiam tanto o dispositivo quanto o usuário.

Construindo um DSP de IA para Edge

Desempenho máximo e eficiência energética para inferência na edge requerem hardware personalizado. As técnicas mais impactantes são resumidas na tabela abaixo.

A inferência de redes neurais depende fortemente de multiplicações matriz-vetor (MVMs). Uma operação de multiplicação-acumulação (MAC) fundida é a base da execução eficiente de MVMs. Aritmética de baixa precisão — frequentemente de 8 bits — é suficiente para inferência, reduzindo drasticamente a complexidade computacional. Intel e Texas Instruments, por exemplo, oferecem processadores com unidades MAC dedicadas de baixa precisão: o TI TMS320C6745 executa 8 MACs de operandos de 8 bits por ciclo, enquanto o DSP de áudio da Knowles pode realizar 16 desses MACs a cada ciclo.

Tanto o treinamento quanto a inferência exigem largura de banda de memória significativa. Caminhos de dados amplos aliviam a pressão: o AVX-512 da Intel suporta transferências de 512 bits por ciclo para um array de 64 multiplicadores; o TI 6745 usa um barramento de 64 bits; os processadores da Knowles adotam um barramento de 128 bits, equilibrando área do chip e largura de banda. Arquiteturas recorrentes (RNN, LSTM) exigem loops de feedback, impondo restrições arquiteturais adicionais que podem travar designs fortemente pipelineados.

Pipelines de áudio-ML tipicamente começam com análise espectral e extração de características. Acelerar operações clássicas de DSP — FFTs, filtros, funções trigonométricas e logarítmicas — é essencial para eficiência energética. Operações vetoriais não-lineares (sigmoid, ReLU, etc.) também se beneficiam de instruções de ciclo único, reduzindo ainda mais a contagem de ciclos e o consumo de energia.

Em resumo, processadores que fundem aceleração de machine-learning e processamento de sinal de áudio permitem inferência always-on em tempo real a baixo custo, preservando a privacidade. Escolhas arquiteturais — conjuntos de instruções de múltiplas operações, barramentos amplos e unidades especializadas de baixa precisão — mantêm alto desempenho sem alto consumo de energia. À medida que o compute especializado na edge continua a evoluir, o espectro de casos de uso viáveis de ML se expandirá.

Jim Steele, Vice-Presidente de Estratégia de Tecnologia, Knowles Corp.

© Este artigo foi publicado originalmente no EE Times: "Machine Learning on DSPs: Enabling Audio AI at the Edge."