Cómo funciona
En lugar de actualizar todos los miles de millones de pesos de un modelo, PEFT (Parameter-Efficient Fine-Tuning) congela la mayor parte de la red y entrena solo una pequeña porción de parámetros adicionales, como adaptadores LoRA o prefijos. Esto reduce drásticamente el costo de memoria y procesamiento, manteniendo gran parte de la calidad del ajuste fino completo. La idea central es que los modelos grandes ya poseen conocimiento general suficiente y solo necesitan ajustes dirigidos para una tarea específica.
Ejemplo práctico
Entrenar un modelo de 7 mil millones de parámetros por completo exige GPUs caras y días de procesamiento. Con LoRA, una técnica de PEFT, entrenas solo algunos millones de parámetros en horas, en una notebook con una GPU modesta, y obtienes un modelo especializado en código o atención al cliente. El resultado final es un archivo pequeño de adaptador que se combina con el modelo base al momento de la inferencia.
Para qué sirve
PEFT democratiza el ajuste fino: empresas y desarrolladores pueden adaptar modelos grandes a su dominio sin infraestructura de data center. Es la base de buena parte de los modelos especializados disponibles hoy en catálogos como Hugging Face, y permite experimentar rápidamente con diferentes tareas sin duplicar modelos enteros.
Diferencia entre PEFT y fine-tuning completo
En el ajuste fino completo, todos los pesos se actualizan, lo que exige más datos, memoria y tiempo. PEFT sacrifica un poco de rendimiento máximo a cambio de eficiencia y flexibilidad, siendo ideal para la mayoría de los casos de uso prácticos. Los adapters complementan este enfoque al agregar capas entrenables al modelo congelado.