Como funciona
Os pesos do modelo são os números que o modelo ajusta ao longo do treino para transformar uma entrada em uma saída. Cada conexão entre neurônios tem um peso, e a combinação desses valores determina a resposta do sistema. Durante o treino, o modelo compara a saída com o alvo, calcula um erro e ajusta os pesos para reduzi-lo. A cada nova amostra, os pesos sofrem pequenas correções que, somadas ao longo do tempo, fazem o modelo generalizar melhor os padrões aprendidos. Os pesos iniciam com valores aleatórios ou com regras de inicialização especializadas e evoluem conforme o modelo vê mais dados. O modelo começa com os pesos aleatoriamente inicializados, e o treino ajusta esses números pouco a pouco. Em redes profundas, uma atualização pequena em todos os pesos é suficiente para que o erro total caia de maneira visível.
Exemplo prático
Em um filtro de spam, cada palavra e cada padrão tem um peso associado. Quando um novo e-mail chega, a soma dos pesos dos termos da mensagem decide o resultado. Se a soma é positiva, o e-mail é classificado como spam; se é negativa, como não spam. O treinamento ajusta esses pesos com base em exemplos marcados, e os valores finais refletem a frequência com que certas palavras indicam spam na base de treino. Em redes maiores, cada neurônio tem uma camada de pesos que refletem combinações de características anteriores.
Para que serve
Os pesos consomem memória e definem a capacidade do modelo. Eles são o que tornam um modelo especializado em uma tarefa e são o que é compartilhado quando se publica um modelo, para que outras pessoas possam inferir sem treinar do zero. Modelos com pesos abertos permitem que a comunidade revise o que o sistema aprendeu e crie variações, como ajustes de domínio, sem começar do zero. O tamanho total dos pesos também influencia se o modelo cabe em uma máquina local ou precisa de servidores de inferência.
Diferença entre X e Y
Os pesos são ajustados no treino; a inferência os usa como está. Quantizar os pesos altera os valores numéricos, mas não o processo de inferência — o modelo produz a mesma classe de saída, com menos precisão.