Adicionando inteligência de borda:uma entrevista com NXP

Um tópico importante hoje e claramente abordado em muitas palestras no embedded world 2021 é a ampla adoção da computação de ponta para habilitar inteligência de ponta. Algumas projeções estimam que 90% de todos os dispositivos de ponta usarão alguma forma de aprendizado de máquina ou inteligência artificial até 2025.

Quais são os problemas em ativar essa inteligência de ponta e como fazer isso acontecer? Este é o tema de uma conversa em um podcast recente com Ron Martino, vice-presidente sênior e gerente geral de negócios de processamento de borda da NXP Semiconductors. Embora você possa ouvir o podcast completo aqui, apresentamos alguns trechos da discussão neste artigo.

Definindo computação de ponta

Basicamente, a computação de ponta é a capacidade de processamento eficiente mais próximo do usuário. Podemos trazer insights mais rápidos para os dados. Você pode definir a computação de ponta no contexto de como o NXP a aborda?

Martino :Edge computing é simplesmente computação local distribuída e capacidade sensorial. Ele efetivamente interpreta, analisa e atua sobre os dados do sensor para executar um conjunto de funções significativas. Não tenta ser um substituto ou uma alternativa para a nuvem, torna-se complementar. Classicamente, na assistência de voz, por exemplo, muitos dados são enviados para a nuvem, onde a maior capacidade de computação é usada para aprimorar a experiência. A computação de ponta está evoluindo para se tornar mais inteligente e, em seguida, mais inteligente. A computação de ponta inteligente equilibra o uso da computação local com a computação central ou em nuvem. À medida que isso evolui ainda mais, há mais inteligência onde queremos que os dispositivos finais tenham mais capacidade de fazer a interpretação, a análise e, em seguida, tomar decisões localmente.

Você pode dar alguns exemplos de como a computação de ponta está sendo usada para permitir melhor produtividade e segurança?

Martino :No caso da produtividade, um ótimo exemplo é a força de trabalho aprimorada:aproveitando o processamento de ponta ou dispositivos vestíveis habilitados com visão e aprendizado de máquina, onde um trabalhador pode diagnosticar um problema e repará-lo mais rapidamente, seja em uma casa ou em uma fábrica .

Dispositivos de borda inteligentes aumentam a segurança reconhecendo vários sinais perigosos:reconhecendo alarmes, uma pessoa que caiu ou um vidro quebrando e, em seguida, determine o problema usando computação e informações adicionais do sensor. Quer use dispositivos de detecção de radar que a NXP está desenvolvendo, quer esteja usando capacidade de visão ou apenas a interpretação da entrada de áudio no dispositivo.

Se formos para uma consciência mais verde e energética, um conceito a ser abordado é o do poder do vampiro, em que você conecta dispositivos e eles não fazem nada além de consumir energia.

Também estamos mudando para um conceito de "borda ciente", em que os dispositivos respondem mais em um comportamento semelhante ao humano. Eles começam a entender seu ambiente, agregam entradas e interagem com outros dispositivos para coletar informações e entender o contexto da situação, para então tomar as decisões adequadas. Um exemplo prático simples disso são os padrões de tráfego com capacidade local que podem interpretar multidões e diferentes pontos de congestionamento e otimizar a situação localmente, observando e sentindo o número de carros e as condições para tornar a direção mais eficiente para que você não perca tempo.

As peças de tecnologia que permitem inteligência de ponta

Do ponto de vista da tecnologia, quais são as peças que constituem essa vantagem inteligente e essa vantagem consciente?

Martino :Vamos começar com a base. Você precisa ter plataformas de computação e elas precisam ser escalonadas. Eles precisam ser eficientes em termos de energia. Ao contrário do passado, agora é realmente sobre vários subsistemas de computação heterogêneos independentes. Isso é basicamente ter uma GPU, uma CPU, uma unidade de processamento de rede neural, uma unidade de processamento de vídeo e um DSP.

Como você otimiza esses diferentes aceleradores de hardware e dispositivos de computação e otimiza para um determinado aplicativo final? É aí que o NXP realmente se destaca por ter a faixa escalonável de computação com todos esses outros elementos. Depois, há a integração de aceleradores de hardware otimizados ou recursos direcionados a aplicativos de voz, interação homem-máquina, que envolve visão e voz juntas, e então faça isso de uma forma que realmente envolva vazamento ultrabaixo com modos operacionais que podem se ajustar a realmente otimize o uso de energia, mesmo com essas grandes memórias no chip, necessárias quando você olha para algumas das cargas de trabalho.

Isso continua com a otimização da capacidade de aprendizado de máquina, integração de segurança com os mais altos níveis de cobertura para muitas superfícies de ataque diferentes, conectividade eficiente, uso eficiente de energia, bem como padrões abertos. Ele também pode aproveitar a tecnologia que o NXP está oferecendo, como medição de distância de alta precisão, seja usando nossa tecnologia UWB para localizar, de forma muito precisa, a localização física de uma determinada pessoa ou dispositivo de rastreamento.

A última coisa é envolver tudo isso em uma experiência de usuário perfeita, porque se não for fácil de usar e não for natural de usar, então não será usado. Portanto, obter uma experiência perfeita e confortável no lugar é absolutamente crítico.

Como um usuário consegue construir essas soluções?

Martino :Oferecemos tudo, desde uma oferta básica de um processador ou microcontrolador, até uma plataforma de referência pré-otimizada para voz local, para visão, detecção e capacidade de inferência, ou a combinação das duas. Reunimos plataformas de referência que um cliente pode adquirir, como nossa família de dispositivos RT. Temos uma oferta de reconhecimento facial que pode ser comprada e é um sistema totalmente habilitado e projetado que um cliente pode tomar como ponto de partida para modificar suas necessidades onde deseja se especializar ou onde deseja marcar.

Diferenças de tecnologia em casos de uso industrial e de consumidor

A maioria da indústria concordará que os dispositivos e sistemas inteligentes em nossas casas e no trabalho estão ganhando força. Quais são algumas das diferenças de tecnologia entre a velha e simples IoT, como você diria, e os mercados industriais?

Martino :Os padrões de conectividade, requisitos ambientais, necessidades de longevidade (que pode ser de 15 anos ou mais) e os requisitos de segurança são muito mais extensos e exigentes no espaço industrial quando você o compara ao mundo da IoT [do consumidor]. Uma área em que a NXP está investindo é a rede sensível ao tempo (TSN) e a integração do Mac e do switch em um conjunto completo de dispositivos que podem oferecer suporte a configurações encadeadas de várias máquinas, trabalhar e oferecer suporte a funções de endpoint, aproveitando isso mais determinístico Backbone TSN, que também oferece suporte a taxas de dados e throughput muito mais altos para os quais muitos dos padrões legados estão convergindo.

Compare isso com os mercados de IoT [de consumo]. Há uma necessidade muito mais ampla de extrema eficiência energética, maior uso de IHM de voz, conectividade sem fio e ciclo de vida mais curto para aplicações como casas inteligentes e vestíveis. Na frente do wearable, você deseja uma ótima experiência do usuário, mas deseja uma bateria com vida útil mais longa. A otimização desses dispositivos de ponta para executar suas funções, mas depois desligar e preservar a vida útil da bateria é muito importante, e essa experiência de usuário realmente rica deve ser feita da maneira mais eficiente, porque é o momento em que a bateria está queimando.

O desafio da interoperabilidade

Na área de casa inteligente, muitas vezes é difícil pegar um produto de uma empresa e fazê-lo funcionar com outros dispositivos também. Como a NXP está tentando mudar esse desafio de interoperabilidade sem fio em casa inteligente?

Martino :Olhando para dispositivos domésticos inteligentes como um exemplo, os padrões e a capacidade de interoperabilidade são muito fragmentados. Temos um projeto denominado CHIP, ou “Casa Conectada sobre IP”, projeto de padrões. Ele tem o NXP, bem como vários outros líderes do setor trabalhando juntos para tentar consolidar, não em um padrão proprietário, mas em um padrão aberto comum a todos os setores, e permite que as pessoas desenvolvam esse padrão aberto.

O foco deste projeto é construir sobre os muitos anos de trabalho que NXP e outros fizeram em torno de ZigBee e Thread e ZigBee Alliance e, em seguida, construir sobre isso com uma capacidade de camada superior, alavancando as tecnologias que a Amazon, a Apple, e o Google lançou para construir este padrão aberto que chamamos de CHIP, e estabelecer esta ligação comum entre dispositivos. Quando você conectar algo, será muito simples conectar.

O plano da NXP é ter produtos reais no mercado ainda este ano, com as primeiras versões do padrão CHIP.

Lidando com a complexidade e o custo de adicionar inteligência de ponta

Mudando para o aprendizado de máquina e IA no limite. Tudo parece bastante complexo e caro, certo?

Martino :Para muitos, quando você fala sobre IA e ML, é um conceito abstrato muito complexo. Há projeções de que 90% de todos os dispositivos de ponta usarão alguma forma de aprendizado de máquina ou inteligência artificial até 2025. Acreditamos realmente que é esse o caso e estamos lançando produtos que são otimizados para isso. É uma combinação do que fazemos para otimizar o hardware usado, os processadores e microcontroladores para executar esse recurso. Para o usuário final, é mais sobre como é complexo implantar um ML prático que seja significativo para o caso de uso final.

Existem muitas empresas que desejam coletar dados e criar seus próprios modelos. O que o NXP está focado é como habilitamos uma capacidade agnóstica de nuvem que permite flexibilidade em uma interface de usuário simples ou ambiente de desenvolvimento?

Isso é o que anunciamos recentemente com nossos investimentos com Au-Zone, e em 2021 estaremos lançando um ambiente de desenvolvimento aprimorado onde você pode escolher o tipo de conteúdo que deseja trazer. Seus próprios dados, modelos que você tem ou modelos que você optou por adquirir através de sua fonte favorita ou provedor de nuvem e trazer isso e, em seguida, otimizá-lo e implementá-lo no dispositivo final. Porque é essa otimização.

Como o aprendizado de máquina aumenta o custo da solução final?

Martino :Se você tem um modelo ou capacidade de aprendizado de máquina muito complexo e pesado, isso exigirá uma capacidade computacional muito maior e, quanto maior a capacidade computacional, mais caro será. Você pode optar por fazer isso em um processador de borda ou pode optar por implantá-lo em uma nuvem. Quando tentamos ajustar esses casos de uso ou modelos para um caso de uso específico, você pode se tornar muito eficiente e, então, aproveitar o dimensionamento da tecnologia tradicional e a lei de Moore para realmente adicionar aceleração de hardware específica para ML, que não exige muita área de silício.

Torna-se um somador de pequeno custo, mas uma capacidade ótima para executar aquele determinado trabalho que você deseja. Seja para detectar pessoas e identificar quem são localmente, por exemplo, você pode fazer isso de forma muito eficiente em um microcontrolador agora, que é otimizado com uma implementação de silício muito, muito eficiente. Então, você também pode torná-lo escalável com alguns de nossos processadores, onde pode escalar para um processador externo de rede neural de alto desempenho ou trabalhar de forma complementar com a nuvem. Novamente, todos têm um custo para eles e isso depende da complexidade da tarefa, mas pode ser muito eficiente para recursos muito complexos que você pode implementar.

IA Ética

Há uma preocupação crescente sobre vieses em modelos de ML e IA. Qual é o papel da indústria para ajudar a garantir IA ética?

Martino :É necessária uma clara transparência de operação, sejam conceitos simples em torno de "Eu quero saber se está me ouvindo ou me observando", mas também, como isso está determinando sua conclusão para, em seguida, tomar uma ação torna-se muito importante. Padrões de segurança para garantir que os sistemas sejam seguros e não tenham acesso backdoor ou outras sensibilidades ou vulnerabilidades em termos de sua superfície de ataque, de modo que alguém possa acessar um sistema de IA e, em seguida, influenciá-lo para fazer certas coisas ou tomar certas decisões que pode ser favorável à pessoa que está atacando o sistema.

Como você implementa sistemas de IA que não têm um preconceito predefinido que, a partir de uma base de princípio, está errado? Na NXP, lançamos uma iniciativa de ética de IA, que ressalta nosso compromisso com esse desenvolvimento ético. Dentro disso, falamos em ser bom, falamos em preservar a IA centrada no ser humano, que na verdade é evitar a subordinação ou coerção a um sistema de IA, bem como essa transparência, os altos padrões de excelência científica, bem como a confiança em sistemas de IA.

Que desafios você vê que permanecem com a implementação de tecnologia de ponta?

Martino :Esta é uma atividade contínua e há muitas áreas para otimização contínua. A eficiência energética, a condução e o aproveitamento de conceitos de coleta de energia e a operação quase limite dos dispositivos são um investimento contínuo de muitos na indústria. Segurança e a necessidade de proteger os dados e continuar avançando, é uma atividade contínua.

Investimentos em assinaturas específicas de silício e diferentes tipos de criptografia e formas de realizar computação de forma protegida, como criptografia homomórfica, realizando cálculos em um ambiente criptografado e nunca descriptografando. Em seguida, estendendo isso em torno da conectividade da taxa de transferência em requisitos de latência, bem como o consumo de energia. Na otimização disso, continuaremos a otimizar a conectividade e trazer isso para esses dispositivos de ponta de maneiras cada vez mais eficientes.

Finalmente, todo esse conceito de inteligência final consciente, estamos em uma terceira geração de desenvolvimento e implementação de processadores ou subsistemas de rede neural que vão para nossos processadores. Isso está impulsionando melhorias em eficiência e escala, mas há pesquisas contínuas nessa área em termos de impulsionar níveis mais altos de eficiência com aceleradores e diferentes tecnologias em torno de redes neurais de spiking, bem como IA quântica. No curto prazo, claramente, veremos uma evolução contínua em torno dos aceleradores mais tradicionais e a integração deles nesses processadores escaláveis ​​que a NXP está trazendo para o mercado.

Você pode ouvir o podcast completo de 27 minutos, "Capacitando a borda em todos os lugares", aqui.