Parâmetros (7B, 70B)
Parâmetros são os pesos aprendidos de um modelo, contados em bilhões: o B de 7B. Mais parâmetros significam mais memória, e só às vezes respostas melhores.
Toda capacidade que um modelo tem vive nos seus parâmetros: bilhões de números ajustados durante o treinamento. A contagem é a coisa mais próxima que a IA tem de uma cilindrada de motor, e, como a cilindrada, costuma ser lida como mais do que é.
Duas coisas que ela determina de fato: memória e computação. O tamanho dos pesos escala diretamente com a contagem vezes a precisão de armazenamento, e é por isso que a quantização importa tanto localmente. O que ela não garante é qualidade: dados de treinamento, técnica e arquitetura movem os resultados pelo menos na mesma medida, e modelos pequenos novos superam com regularidade modelos grandes antigos.
Para uso local, a tradução prática é simples: a contagem de parâmetros define a classe de hardware de que você precisa, o tamanho medido do arquivo decide se cabe, e nenhum dos dois números diz se o modelo é bom na sua tarefa; essa parte você julga usando.
Onde você vê isso no radar
Mostramos tamanhos de arquivo medidos ao lado das contagens de parâmetros: o que precisa caber na memória é o download, não o número de marketing.
Ver tamanhos medidos, não supostos →Termos relacionados