Lançamento de kits de desenvolvimento de computação neuromórfica

BrainChip, o fornecedor de IP de computação neuromórfica, lançou dois kits de desenvolvimento para seu processador neuromórfico Akida durante a recente Linley Fall Processor Conference. Ambos os kits apresentam o SoC neuromórfico Akida da empresa:um kit de desenvolvimento x86 Shuttle PC e um kit Raspberry Pi baseado em Arm. BrainChip está oferecendo as ferramentas para desenvolvedores que trabalham com seu processador de rede neural na esperança de licenciar seu IP. O silício Akida também está disponível.

As tecnologias neuromórficas da BrainChip permitem a IA de ultra-baixo consumo de energia para a análise de dados em sistemas de ponta, onde o processamento de dados do sensor em tempo real e extremamente baixo é procurado. A empresa desenvolveu uma unidade de processamento neural (NPU) projetada para processar redes neurais de pico (SNNs), uma rede neural inspirada no cérebro que difere das abordagens convencionais de aprendizado profundo. Como o cérebro, um SNN depende de “picos” que transmitem informações espacial e temporalmente. Ou seja, o cérebro reconhece as sequências e o momento dos picos. Chamados de “domínio do evento”, os picos normalmente resultam de mudanças nos dados do sensor (por exemplo, mudanças nas cores dos pixels em uma câmera baseada em eventos).

Junto com os SNNs, os NPUs da BrainChip também podem processar redes neurais convolucionais (CNNs) como aquelas normalmente usadas em visão computacional e algoritmos de localização de palavras-chave com menor potência do que outras implementações de borda. Isso é feito convertendo CNNs em SNNs e executando inferência no domínio do evento. A abordagem também permite o aprendizado on-chip no limite, uma qualidade de SNNs que seria estendida para CNNs convertidos.

As placas de desenvolvimento da BrainChip estão disponíveis para x86 shuttle PC ou Raspberry Pi. (Fonte:BrainChip)

Akida "está pronta para a tecnologia neuromórfica de amanhã, mas resolve o problema de hoje de tornar a inferência de rede neural possível em dispositivos de borda e IoT", disse Anil Mankar, cofundador e diretor de desenvolvimento da BrainChip ao EE Times .

A conversão de CNN para o domínio do evento é realizada pelo fluxo de ferramenta de software da BrainChip, MetaTF. Os dados podem ser convertidos em picos e modelos treinados podem ser convertidos para rodar no NPU da BrainChip.

“Nosso software de tempo de execução está eliminando o medo de‘ O que é um SNN? ’E‘ O que é o domínio do evento? ’”, Disse Mankar. “Fazemos de tudo para esconder isso.

“Pessoas que estão familiarizadas com o TensorFlow ou Keras API ... podem pegar o aplicativo que estão executando em [outro hardware], mesma rede, mesmo conjunto de dados, com nosso treinamento com reconhecimento de quantização, executá-lo em nosso hardware e medir a potência por conta própria e veja qual será a precisão. ”

As CNNs são particularmente boas em extrair recursos de grandes conjuntos de dados, explicou Mankar, e a conversão para o domínio do evento preserva esse benefício. A operação de convolução é realizada no domínio do evento para a maioria das camadas, mas a camada final é substituída. Substituí-lo por uma camada que reconhece picos de entrada dá ao CNN comum a capacidade de aprender por meio da plasticidade dependente do tempo de pico na borda, eliminando o retreinamento na nuvem.

Enquanto os SNNs nativos (aqueles escritos do zero para o domínio do evento) podem usar a precisão de um bit, os CNNs convertidos requerem picos de 1, 2 ou 4 bits. A ferramenta de quantização do BrainChip ajuda os designers a decidir com que agressividade quantizar camada por camada. Brainchip quantizou o MobileNet V1 para classificação de 10 objetos com precisão de predição de 93,1 por cento após a quantização para 4 bits.

Um subproduto da conversão para o domínio do evento é uma economia significativa de energia devido à dispersão. Os valores do mapa de ativação diferentes de zero são representados como eventos de 1 a 4 bits, e o NPU executa apenas cálculos em eventos, em vez de todo o mapa de ativação.

Os desenvolvedores “podem olhar para os pesos e ver pesos diferentes de zero e tentar evitar a multiplicação por pesos zero”, disse Mankar. “Mas isso significa que você tem que saber onde estão os zeros, e não há computação necessária” para essas operações.

Para uma CNN típica, o mapa de ativação mudaria a cada quadro de vídeo, uma vez que as funções ReLU são centralizadas em torno de zero - normalmente metade das ativações será zero. Por não fazer picos a partir desses zeros, a computação no domínio do evento é limitada a ativações diferentes de zero. A conversão de CNNs para execução no domínio do evento pode alavancar a dispersão, reduzindo rapidamente o número de operações MAC necessárias para inferência e, portanto, o consumo de energia.

Entre as funções que podem ser convertidas para o domínio do evento incluem convolução, convolução de ponto, convolução de profundidade, agrupamento máximo e agrupamento médio global.

Operações MAC necessárias para inferência de classificação de objeto (azul escuro é CNN no domínio de não evento, azul claro é domínio de evento / Akida, verde é domínio de evento com regularização de atividade adicional). (Fonte:BrainChip)

Em um exemplo, um modelo de localização de palavras-chave em execução na placa de desenvolvimento Akida após a quantização de 4 bits consumiu tão pouco quanto 37 µJ por inferência (ou 27.336 inferências por segundo por Watt). A precisão da previsão foi de 91,3 por cento, e o chip foi reduzido para 5 MHz para atingir o desempenho observado. (veja o gráfico abaixo).

Sensor agnóstico

O IP NPU da BrainChip e o chip Akida são independentes do tipo de rede e podem ser usados ​​junto com a maioria dos sensores. O mesmo hardware pode processar dados de imagem e áudio usando conversão de CNN ou SNNs da BrainChip para detecção olfativa, gustativa e de vibração / tátil.

NPUs são agrupados em nós de quatro, que se comunicam por meio de uma rede mesh. Cada NPU inclui processamento e 100 kB de SRAM local para parâmetros, ativações e buffers de eventos internos. As camadas de rede CNN ou SNN são atribuídas a uma combinação de várias NPUs, passando eventos entre as camadas sem suporte de CPU. (Embora outras redes que não sejam CNNs possam ser convertidas para o domínio do evento, Mankar disse que é necessária uma CPU para rodar no Akida.)

O IP NPU da BrainChip pode ser configurado para até 20 nós, e redes maiores podem ser executadas em vários projetos com menos nós.

Nós de quatro NPUs BrainChip são conectados por uma rede mesh. (Fonte:BrainChip)

Um vídeo da BrainChip mostrou um chip Akida implantado em um sistema na cabine do veículo, com um chip usado para detectar um motorista, reconhecer o rosto do motorista e identificar sua voz simultaneamente. A detecção de palavras-chave exigia 600 µW, o reconhecimento facial precisava de 22 mW e a inferência de wake-word visual usada para detectar o driver foi de 6-8 mW.

O baixo consumo de energia para tais plataformas automotivas oferece flexibilidade aos fabricantes de automóveis em outras áreas, disse Rob Telson, vice-presidente de vendas mundiais da BrainChips, acrescentando que o chip Akida é baseado na tecnologia de processo de 28 nm da Taiwan Semiconductor Manufacturing Co.. Os clientes IP podem ir para nós de processo mais refinados para economizar mais energia, acrescentou Telson.

Enquanto isso, os sistemas de reconhecimento facial podem aprender novos rostos no chip, sem mudar para a nuvem. Uma campainha inteligente pode, por exemplo, identificar o rosto de uma pessoa localmente a partir do aprendizado instantâneo. Contanto que a última camada das redes seja atribuída a um número suficiente de neurônios, o número total de faces reconhecidas pode ser aumentado de 10 para mais de 50, observou Mankar.

Clientes com acesso antecipado

A BrainChip tem 55 funcionários espalhados por sua sede em Aliso Viejo, Califórnia, e escritórios de design em Toulouse, França, Hyderabad, Índia, e Perth, Austrália. A empresa tem 14 patentes e é negociada publicamente na bolsa de valores australiana e na bolsa de balcão dos EUA.

Cerca de 15 clientes com acesso antecipado, incluindo a NASA, disse Telson. Outros incluem empresas automotivas, militares, aeroespaciais, médicas (detecção olfativa de Covid-19) e eletrônicos de consumo. BrainChip tem como alvo aplicativos de consumo, como saúde inteligente, cidade inteligente, casa inteligente e transporte inteligente.

Outro cliente inicial é a especialista em microcontroladores Renesas, que licenciou o Akida NPU IP de 2 nós para ser integrado a um futuro MCU voltado para a análise de dados do sensor em implantações de IoT, de acordo com Telson.

Akida IP e silício já estão disponíveis.

>> Este artigo foi publicado originalmente em nosso site irmão, EE Times.

---

Conteúdos Relacionados:

• A inicialização embala 1000 núcleos RISC-V no chip acelerador AI
• O chip AI visa dispositivos periféricos de baixo consumo
• SoCs habilitados para IA lidam com vários streams de vídeo
• Construindo segurança em um AI SoC usando recursos de CPU com extensões
• As arquiteturas de microcontroladores evoluem para IA

Para obter mais informações sobre o Embedded, assine o boletim informativo semanal da Embedded por e-mail.