Fine-tuning (ajuste fino)
El fine-tuning continúa el entrenamiento de un modelo con tus propios ejemplos para que adopte un estilo, un formato o una especialidad: cambia los pesos, mientras que un prompt solo les da instrucciones.
Toma un modelo publicado, entrénalo un poco más con un conjunto de datos más pequeño y enfocado, y obtienes una nueva variante que se comporta distinto por defecto: responde en tu formato, habla el lenguaje de tu dominio, sigue tu estilo de la casa sin que se lo recuerden. Esa permanencia a nivel de pesos es la diferencia con el prompting, que empieza de cero en cada conversación.
Se gana su costo en menos casos de los que la mayoría espera. Las instrucciones y los documentos de referencia en el prompt resuelven la mayoría de necesidades; el fine-tuning compensa cuando el mismo comportamiento debe mantenerse en miles de ejecuciones. El fine-tuning completo necesita mucha más memoria que la inferencia, pero los métodos ligeros (LoRA y similares) entrenan un pequeño complemento de los pesos y funcionan en GPU de consumo capaces.
Una consecuencia se ve por todos los hubs de modelos: la mayoría de los modelos listados son fine-tunes comunitarios de un puñado de originales. El modelo base sigue decidiendo la historia del hardware: un fine-tune de un modelo de 70B es un modelo de 70B.
Dónde lo ves en el radar
El tablero sigue a los originales de primera parte en lugar de la avalancha de derivados con fine-tuning, así que una variante reestilizada nunca se hace pasar por un modelo nuevo, y los veredictos de hardware describen siempre la base que los determina.
Ver los originales en el tablero →Términos relacionados