Fine-tuning (ajuste fino)
O fine-tuning continua o treinamento de um modelo com os seus próprios exemplos para que ele adote um estilo, um formato ou uma especialidade: muda os pesos, enquanto um prompt apenas os instrui.
Pegue um modelo publicado, treine-o um pouco mais com um conjunto de dados menor e focado, e você obtém uma nova variante que se comporta de forma diferente por padrão: responde no seu formato, fala a linguagem do seu domínio, segue o estilo da casa sem precisar de lembrete. Essa permanência no nível dos pesos é a diferença em relação ao prompting, que começa do zero a cada conversa.
Ele compensa o custo em menos casos do que a maioria espera. Instruções e documentos de referência no prompt resolvem a maior parte das necessidades; o fine-tuning vale a pena quando o mesmo comportamento precisa se manter em milhares de execuções. O fine-tuning completo exige muito mais memória do que a inferência, mas métodos leves (LoRA e afins) treinam um pequeno complemento aos pesos e rodam em GPUs de consumo capazes.
Uma consequência aparece em todos os hubs de modelos: a maioria dos modelos listados são fine-tunes comunitários de um punhado de originais. O modelo base continua decidindo a história do hardware: um fine-tune de um modelo de 70B é um modelo de 70B.
Onde você vê isso no radar
O painel acompanha os originais de primeira mão em vez da enxurrada de derivados com fine-tuning, então uma variante reestilizada nunca se passa por um modelo novo, e os vereditos de hardware sempre descrevem a base que os determina.
Ver os originais no painel →Termos relacionados