Como funciona
Regularização é o conjunto de técnicas que impedem um modelo de machine learning de decorar (overfitting) os dados de treino. Um modelo com overfitting aprende padrões específicos do treino, incluindo ruído, e não generaliza para dados novos.
As técnicas mais comuns são: penalização dos pesos (weight decay / L2), que desencoraja pesos muito grandes; dropout, que desliga neurônios aleatoriamente; e early stopping, que interrompe o treino quando o desempenho em dados de validação para de melhorar. Também contam data augmentation (aumentar os dados de treino com variações) e redução de complexidade do modelo.
Exemplo prático
Você treina uma rede neural para classificar imagens de gatos e cachorros. Sem regularização, a rede pode memorizar as imagens de treino e errar em fotos novas. Com weight decay e dropout, a rede aprende características gerais (orelhas, focinho) em vez de memorizar pixels, e acerta mais em imagens que nunca viu.
optimizer = torch.optim.Adam(model.parameters(), lr=1e-3, weight_decay=1e-4)Para que serve
Regularização é essencial para que modelos funcionem fora do ambiente de treino. Sem ela, modelos complexos tendem a overfitting, especialmente com poucos dados. A escolha da técnica e da intensidade (hiperparâmetro) é parte central do treino e impacta diretamente a qualidade final do modelo.