Integrando Modelos Duplos de Deep Learning para Automação Industrial Aprimorada

Deep learning é uma ferramenta inestimável no arsenal de analistas de dados com novas aplicações em diferentes esferas, incluindo aplicações industriais. O princípio básico de funcionamento do deep learning é usar grandes volumes de dados para construir um modelo que possa fazer previsões precisas.

Vamos considerar um pequeno exemplo de onde engenheiros de automação industrial poderiam encontrar a necessidade de combinar dois modelos de deep learning. Uma empresa de smartphones emprega uma linha de produção que fabrica vários modelos de smartphones. Visão computacional empregando algoritmos de deep learning realiza o controle de qualidade da linha de produção.

Atualmente, a linha de produção constrói dois smartphones: Telefone A e Telefone B. Modelos A e B realizam o controle de qualidade para Telefones A e B, respectivamente. A empresa introduz um novo smartphone, Telefone C. A instalação de produção pode precisar de um novo modelo para realizar controle de qualidade para o terceiro telefone, chamado Modelo C. Construir um novo modelo requer uma enorme quantidade de dados e tempo.

 

Figura 1. Vídeo usado com cortesia de Matt Chan

 

Outra alternativa é combinar os aprendizados do Modelo A e B para construir o Modelo C. O modelo combinado pode realizar controle de qualidade com pequenos ajustes nos pesos.

Outro cenário onde modelos precisam ser combinados é quando um novo modelo tem que realizar duas tarefas simultaneamente. Dois modelos de deep learning poderiam realizar essas tarefas. Um modelo que precisa classificar um conjunto de dados e fazer previsões em cada categoria pode ser criado combinando dois modelos: um que pode classificar grandes conjuntos de dados e outro que pode fazer previsões.

 

Aprendizado de Ensemble

Combinar múltiplos modelos de deep learning é aprendizado de ensemble. Isso é feito para fazer melhores previsões, classificação ou outras funções de um modelo de deep learning. O aprendizado de ensemble também pode criar um novo modelo com as funcionalidades combinadas de diferentes modelos de deep learning.

Criar um novo modelo tem muitos benefícios comparado a treinar um novo modelo completamente do zero.

• Requer muito poucos dados para treinar o modelo combinado porque a maior parte do aprendizado é derivada dos modelos combinados.
• Leva menos tempo para construir um modelo combinado comparado a construir um novo modelo.
• Requer menos recursos computacionais quando modelos são combinados.
• Novos modelos combinados têm maior precisão e maiores capacidades do que aqueles combinados para obter o novo modelo.

Devido às diferentes vantagens do aprendizado de ensemble, ele é frequentemente realizado para criar um novo modelo. Algoritmos de deep learning, pacotes e modelos treinados respectivos devem combinar diferentes modelos, e a maioria dos algoritmos avançados de deep learning são escritos com Python.

 

Figura 2. Um ensemble de stacking para redes neurais de deep learning em Python. Imagem usada com cortesia de Machine Learning Mastery

 

Saber Python e as respectivas ferramentas de deep learning usadas são pré-requisitos para combinar diferentes modelos. Uma vez que todos esses estão no lugar, diferentes técnicas são implementadas para combinar diferentes algoritmos de deep learning. Elas são explicadas nas seções a seguir.

 

Média (Ponderada)

Neste método, a média dos dois modelos é usada como o novo modelo. É o método mais direto de combinar dois modelos de deep learning. O modelo criado pela média simples de dois modelos tem mais precisão que os dois modelos combinados.

Para melhorar ainda mais a precisão e o resultado do modelo combinado, a média ponderada é uma opção viável. Os pesos dados aos diferentes modelos podem ser baseados no desempenho dos modelos ou na quantidade de treinamento que cada modelo passou. Neste método, dois modelos diferentes são combinados para formar um novo modelo.

 

Método Bagging

O mesmo modelo de deep learning pode ter múltiplas iterações. As diferentes iterações seriam treinadas com diferentes conjuntos de dados e teriam diferentes níveis de melhoria. Combinar as diferentes versões do mesmo modelo de deep learning é o método bagging.

A metodologia permanece a mesma que a do método de média. Diferentes versões do mesmo modelo de deep learning são combinadas de forma de média simples ou ponderada. Este método ajuda a criar um novo modelo que não tem o viés de confirmação acumulado com um único modelo, tornando o modelo mais preciso e de alto desempenho.

 

Método Boosting

O método boosting é semelhante a usar um loop de feedback para modelos. O desempenho de um modelo é usado para ajustar os modelos subsequentes. Isso cria um loop de feedback positivo que acumula todos os fatores que contribuem para o sucesso do modelo.

 

Figura 3. Método boosting para ensemble learning. Imagem usada com cortesia de Ashish Patel

 

O método boosting reduz o viés e a variância experimentados pelos modelos. Isso é possível pois tais lados negativos são filtrados em iterações subsequentes. Boosting pode ser feito de duas maneiras distintas: boosting baseado em peso e boosting baseado em resíduo.

 

Método Concatenação

Este método é usado quando diferentes fontes de dados devem ser mescladas no mesmo modelo. Esta técnica de combinação recebe diferentes entradas e as concatena no mesmo modelo. O conjunto de dados resultante terá mais dimensões que o conjunto de dados original.

Quando feito múltiplas vezes sequencialmente, as dimensões dos dados crescerão para um número muito grande, o que pode levar a overfitting e perda de informação crítica, reduzindo assim o desempenho do modelo combinado.

 

Método Stacking

O método stacking para modelos de ensemble deep learning integra os diferentes métodos para desenvolver modelos de deep learning usando o desempenho de iterações anteriores para impulsionar os modelos anteriores. Adicionar um elemento de média ponderada a este modelo stacked melhora as contribuições positivas para os sub-modelos.

Da mesma forma, técnicas de bagging e concatenação podem ser adicionadas aos modelos. O método de combinar diferentes técnicas para combinar modelos pode melhorar o desempenho do modelo combinado.

As metodologias, técnicas e algoritmos que podem ser usados para combinar modelos de deep learning são inumeráveis e sempre evoluindo. Haverá novas técnicas para realizar a mesma tarefa fornecendo melhores resultados. As ideias-chave a saber sobre combinar modelos são dadas abaixo.

• Combinar modelos de deep learning também é chamado de ensemble learning.
• Combinar diferentes modelos é feito para melhorar o desempenho de modelos de deep learning.
• Construir um novo modelo por combinação requer menos tempo, dados e recursos computacionais.
• O método mais comum para combinar modelos é pela média de múltiplos modelos, onde tomar uma média ponderada melhora a precisão.
• Bagging, boosting e concatenação são outros métodos usados para combinar modelos de deep learning.
• Ensemble learning stacked usa diferentes técnicas de combinação para construir um modelo.