Temperatura
A temperatura é o controle que define quão ousadas são as escolhas de palavras de um modelo: valores baixos o deixam previsível e repetitivo, valores altos criativo e mais propenso a erros.
A cada passo, o modelo mantém uma lista ordenada de possíveis próximos tokens. A temperatura remodela essa lista antes de um ser escolhido: perto de zero, o candidato principal quase sempre vence e a mesma pergunta produz a mesma resposta; mais alta, os suplentes ganham a vez e o texto se solta, para o bem em um poema e para o mal em uma consulta SQL.
É uma configuração do runtime, não uma propriedade do modelo. Todo runtime local a expõe, geralmente entre 0 e 1 por padrão; código e perguntas factuais a querem baixa, brainstorming a quer alta. Costuma vir acompanhada de uma configuração irmã que limita quantos candidatos são considerados.
A armadilha a evitar: aumentá-la não torna o modelo mais inteligente, e reduzi-la não o torna verdadeiro; ela só decide o quanto o modelo aposta nas suas segundas opções.
Onde você vê isso no radar
Todo runtime que listamos expõe a temperatura; os modelos em si não a carregam. É o seu controle, e é por isso que o radar mede memória e nunca finge medir criatividade.
Escolher um runtime e encontrar o controle →Termos relacionados