Temperatura
La temperatura es el control que fija cuán arriesgadas son las elecciones de palabras de un modelo: valores bajos lo hacen predecible y repetitivo, valores altos creativo y más propenso a errores.
En cada paso, el modelo tiene una lista ordenada de posibles tokens siguientes. La temperatura remodela esa lista antes de elegir uno: cerca de cero, el candidato principal casi siempre gana y la misma pregunta da la misma respuesta; más alta, los suplentes tienen su oportunidad y el texto se suelta, para bien en un poema y para mal en una consulta SQL.
Es un ajuste del runtime, no una propiedad del modelo. Todo runtime local lo expone, normalmente entre 0 y 1 por defecto; el código y las preguntas factuales lo quieren bajo, la lluvia de ideas lo quiere alto. Suele ir acompañado de un ajuste hermano que limita cuántos candidatos se consideran.
La trampa a evitar: subirla no hace más inteligente al modelo, y bajarla no lo hace veraz; solo decide cuánto apuesta el modelo por sus segundas opciones.
Dónde lo ves en el radar
Todos los runtimes que listamos exponen la temperatura; los modelos en sí no la llevan. Es tu control, y por eso el radar mide memoria y nunca pretende medir creatividad.
Elegir un runtime y encontrar el control →Términos relacionados