Fine-tuning é a técnica de pegar um modelo de IA já treinado e continuar seu treinamento com dados específicos de uma tarefa ou domínio. Em vez de treinar um modelo do zero, que exige enormes quantidades de dados e computação, o fine-tuning ajusta os pesos existentes para que o modelo se comporte de forma mais adequada ao caso de uso desejado.

Como funciona

O processo começa com um modelo base, como um LLM de uso geral. Esse modelo já sabe gerar texto, entender instruções e responder perguntas. O fine-tuning alimenta o modelo com exemplos do domínio desejado: pares de pergunta e resposta, textos no estilo da empresa, código em uma linguagem específica.

Durante o treinamento, os pesos do modelo são ajustados levemente para minimizar o erro nas respostas esperadas. O resultado é um modelo que mantém suas capacidades gerais, mas se especializa no domínio treinado. Técnicas como LoRA e QLoRA tornam esse processo viável em hardware mais acessível, ajustando apenas uma fração dos parâmetros.

Exemplo prático

Uma equipe de suporte quer que o modelo responda no tom da empresa e com informações do produto. Em vez de colocar todas as instruções no prompt a cada chamada, fazem fine-tuning com centenas de exemplos de atendimento real. O modelo resultante responde de forma consistente, sem precisar de prompts longos.

Para que serve

Fine-tuning reduz custos de inferência (prompts menores), melhora a consistência e permite que empresas usem modelos menores e mais baratos para tarefas específicas. No bridgecode, agentes podem usar modelos com fine-tuning para tarefas repetitivas, deixando modelos maiores para raciocínio complexo.