Parámetros (7B, 70B)
Los parámetros son los pesos aprendidos de un modelo, contados en miles de millones: la B de 7B. Más parámetros significan más memoria, y solo a veces mejores respuestas.
Toda capacidad que tiene un modelo vive en sus parámetros: miles de millones de números ajustados durante el entrenamiento. La cifra es lo más parecido que tiene la IA a la cilindrada de un motor, y como la cilindrada, suele leerse como más de lo que es.
Dos cosas que sí determina: memoria y cómputo. El tamaño de los pesos escala directamente con la cifra multiplicada por la precisión de almacenamiento, y por eso la cuantización importa tanto en local. Lo que no garantiza es la calidad: los datos de entrenamiento, la técnica y la arquitectura mueven los resultados al menos tanto, y los modelos pequeños nuevos superan con regularidad a los grandes antiguos.
Para el uso local, la traducción práctica es simple: el número de parámetros fija la clase de hardware que necesitas, el tamaño medido del archivo decide si cabe, y ninguno de los dos te dice si el modelo es bueno para tu tarea; eso lo juzgas usándolo.
Dónde lo ves en el radar
Mostramos tamaños de archivo medidos junto a los recuentos de parámetros: lo que tiene que caber en memoria es la descarga, no el número de marketing.
Ver tamaños medidos, no supuestos →Términos relacionados