Projetando Perceptron Flexível em Python: Arquitetura, Bias e Ativação

Construindo Perceptron para Classificação: Arquitetura, Bias e Ativação

Bem-vindo à série de redes neurais do All About Circuits. Nossos posts anteriores cobriram fundamentos teóricos de redes neurais:

1. Como Realizar Classificação Usando Rede Neural: O Que é o Perceptron?
2. Como Usar Exemplo Simples de Perceptron para Classificar Dados
3. Como Treinar um Perceptron Básico
4. Entendendo Treinamento Simples de Rede Neural
5. Introdução à Teoria de Treinamento para Redes Neurais
6. Entendendo Taxa de Aprendizado em Redes Neurais
7. Machine Learning Avançado com Perceptron Multicamada
8. Função de Ativação Sigmoid: Ativação em Perceptrons Multicamadas
9. Como Treinar um Perceptron Multicamada
10. Entendendo Fórmulas de Treinamento e Backpropagation para Perceptrons Multicamadas
11. Arquitetura de Rede Neural para Implementação Python
12. Como Criar um Perceptron Multicamada em Python
13. Processamento de Sinais Usando Redes Neurais: Validação no Design de Redes Neurais
14. Datasets de Treinamento para Redes Neurais: Como Treinar e Validar uma Rede Neural Python

Agora estamos prontos para traduzir esta teoria em sistema de classificação Perceptron funcional. A seção a seguir descreve a arquitetura que implementaremos em Python, com escolhas de design claras que tornam o código portável para outras linguagens como C.

Arquitetura da Rede Neural Python

O diagrama abaixo ilustra a estrutura da rede que codificaremos:

• Nós de entrada variáveis — Essencial para corresponder dimensionalidade de dados do mundo real.
• Única camada oculta — Uma única camada oculta é suficiente para muitas tarefas de classificação, simplificando implementação.
• Nós ocultos variáveis — Contagem ótima é encontrada empiricamente; discutiremos heurísticas em post futuro.
• Nós de saída fixos (1) — Simplifica programa inicial; versões futuras podem suportar saídas multi-classe.
• Função de ativação — Camadas oculta e de saída usam sigmoid logístico: f(x)=1/(1+e^{-x}).

O Que é Nó de Bias? (Bias Aumenta Flexibilidade do Perceptron)

Nós de bias — ou simplesmente biases — são constantes adicionadas à soma ponderada de um nó antes da ativação. Tipicamente definidos como 1 e podem ser colocados na camada de entrada ou oculta.

Pesos de bias são atualizados como qualquer outro peso durante backpropagation. Incluir nós de bias permite que a rede desloque sua fronteira de decisão, melhorando desempenho em dados não-linearmente separáveis.

Na Parte 10 desta série, descrevemos pré-ativação como produto escalar: S_preA = w · x = Σ(w_i x_i). Adicionando bias b modifica isto para:

S_preA = (w · x) + b = Σ(w_i x_i) + b

O bias efetivamente age como intercepto y na equação linear y = mx + b, deslocando a curva de ativação horizontalmente.

Pesos, Bias e Ativação

Durante treino, pesos escalam a inclinação da entrada, enquanto bias a desloca verticalmente. Com sigmoid logístico f_A(x) = 1/(1+e^{-x}), a transição de 0 a 1 é centrada em x = 0. Ajustando o bias move esta transição esquerda ou direita, e a magnitude do peso controla a inclinação da transição.

Conclusão

Descrevemos as escolhas arquiteturais centrais para nosso Perceptron e explicamos o papel de nós de bias. No próximo artigo, mergulharemos no código Python que dá vida a este design.