Manufaturação industrial
Internet das coisas industrial | Materiais industriais | Manutenção e reparo de equipamentos | Programação industrial |
home  MfgRobots >> Manufaturação industrial >  >> Industrial Internet of Things >> Tecnologia da Internet das Coisas

Mudando para um novo nível de Edge AI


A fase evolutiva das tecnologias é um lugar familiar, e a IA, a principal tecnologia dos últimos anos, não é diferente. Em AI - as novas gerações adicionam mais MACs, múltiplas camadas de quantização, esse recurso, aquele recurso - tudo para buscar TOPS / Watt aprimorados.


Introduzimos com sucesso soluções de IA de ponta em vários mercados por meio de nossa plataforma CEVA NeuPro neste ambiente. Agora, os usuários querem mais, mas às vezes a evolução por si só não é suficiente.

No início, os usuários enfatizaram a facilidade de uso para ajudá-los a introduzir essa nova tecnologia de IA de ponta. Mas, à medida que sua experiência em técnicas avançadas de IA se aprofunda, eles desejam ter acesso a todas as maneiras possíveis de criar diferenciação em seus produtos e exceder as abordagens atuais de última geração em uma ordem de magnitude. Chegar lá rapidamente não é possível por meio da evolução; melhorias revolucionárias são necessárias. O que eles querem mudou da facilidade de uso para a flexibilidade algorítmica máxima com rendimento máximo e potência mínima.


Avaliação


TOPS / W é um bom número de marketing, mas é muito rudimentar para ser útil em aplicativos reais. Na inferência visual, por exemplo, quadros por segundo por watt (FPS / W) é uma métrica muito mais significativa. O valor de uma boa pontuação neste contexto é fácil de entender. Detectar um pedestre ou carro à frente ou um carro passando por trás requer uma resposta rápida. Há pouco tempo para frear ou desviar e nenhuma ação é instantânea. Um mecanismo de inferência deve ser capaz de gerenciar um mínimo de 100 FPS - com a menor potência possível, porque este é apenas um dos muitos sistemas de sensores / IA ao redor do carro. Isso exige fps / W muito mais alto para poder competitivo.

A oportunidade de mercado é indiscutível. Espera-se que os aplicativos automotivos e de telecomunicações sejam os maiores contribuintes para esse crescimento e, no setor automotivo, a geração de imagens inteligentes continua forte. A propósito, o mesmo acontece com a tendência de “muitas câmeras” nos telefones celulares. Na verdade, o pipeline de imagem em tais câmeras começou a substituir algoritmos convencionais por redes neurais para remoção de ruído, estabilização de imagem, super-resolução e outras funções inovadoras, todos rodando a 60fps em um envelope de energia muito restrito.

O que um grande avanço requer


Existem algumas coisas interessantes acontecendo em torno da IA ​​analógica e de redes neurais de pico, mas os fabricantes de produtos não querem pular muito para longe do que eles têm certeza de que podem ser dimensionados para o volume hoje. Essa restrição ainda deixa muito potencial de algoritmo, mas agora os criadores de produtos querem acesso a todos esses algoritmos com muito mais flexibilidade para obter desempenho máximo com potência mínima.

A lista de possibilidades de otimização é longa:uma ampla gama de opções de quantização, suporte para winograd, otimização de esparsidade para pular multiplicações por zero, diversidade de tipos de dados na ativação e pesos em uma gama de tamanhos de bits, capacidade de processamento de vetor em paralelo com multiplicações neurais, compressão de dados para reduzir o tempo de carregamento para pesos e ativações, suporte de decomposição de matriz, fornecendo uma aceleração de até 50:1 em uma rede de referência e arquiteturas NN de próxima geração, como transformadores e suporte de convolução 3D.

Uma frase de chamariz


Os criadores de produtos, agora com mais experiência em IA, sabem o que querem e como fazer. O que eles precisam é de uma plataforma que ofereça todos os algoritmos de componentes de rede neural que eles já entendem, para construir a solução ideal para seus produtos.

Esta é uma lista dos sonhos de algoritmos e otimizações para fornecer a verdadeira capacidade revolucionária, rendimento e baixo consumo de energia de que a IA de ponta avançada precisa. Mas por que apenas um sonho? Os criadores de produtos avançados não estão mais satisfeitos com melhorias incrementais em IA. Eles agora esperam plataformas alinhadas com sua compreensão muito melhor das possibilidades.

Para saber mais sobre o trabalho da CEVA no Edge AI, clique AQUI.


Roni Sadeh tem mais de 20 anos de experiência em design de processador e acelerador, concentrando-se nos últimos anos em soluções de SW e HW relacionadas à IA para aplicativos de áudio / fala / visão computacional e projetando a próxima geração de aceleradores de IA escaláveis ​​para centenas de TOPs.

Roni é bacharel em Engenharia Aeronáutica pela Technion University.

Tecnologia da Internet das Coisas

  1. Novos designs validados da Cisco oferecem aos clientes mais receitas para o sucesso da IoT
  2. Por que uma vantagem mais inteligente gerará novos aplicativos de visão computacional em 2019
  3. Novo livro ajuda a transformar a manufatura e a manutenção
  4. Cisco une vantagem corporativa e industrial com novos roteadores
  5. É hora de mudar:uma nova era no limite
  6. 5G e Edge levantam novos desafios de segurança cibernética para 2021
  7. No Limite da Glória:Habilitando uma Nova Era da Máquina da Internet
  8. 3 principais sinais de que você precisa de um novo sistema de freio
  9. Nova automação torna os EDMs mais rápidos e eficientes
  10. Levando CNC Multis a um novo nível