Embedding (vector de significado)
Un embedding es una lista de números que captura el significado de un texto, de modo que textos sobre lo mismo quedan cerca entre sí: la maquinaria detrás de la búsqueda semántica y de RAG.
Las computadoras no pueden comparar significados directamente, así que un modelo de embeddings convierte una frase, un párrafo o un documento entero en un vector: de unos cientos a unos miles de números. Textos que significan cosas parecidas obtienen vectores que apuntan en direcciones parecidas, usen las palabras que usen. «¿Cómo reduzco el uso de VRAM?» y «bajar la memoria gráfica» quedan cerca; una receta de panqueques queda lejos.
Ese es el truco de la recuperación: indexas cada pasaje de tus documentos como un vector una sola vez, conviertes la pregunta en vector al consultar y traes los pasajes cuyos vectores están más cerca. Sin palabras clave ni coincidencias exactas: significado. Los modelos de embeddings son pequeños comparados con los de chat, a menudo muy por debajo de mil millones de parámetros, así que corren sin problema en la CPU de un portátil e indexan un archivo grande en local.
Dos cosas que conviene saber antes de confiar en ellos. Los vectores de modelos de embeddings distintos no son comparables, así que hay que reconstruir el índice si cambias de modelo. Y un embedding captura de qué trata un pasaje, no si es cierto: la recuperación encuentra texto relevante, y el modelo de chat todavía tiene que leerlo con ojo crítico.
Dónde lo ves en el radar
Los modelos de embeddings no están en el tablero: el radar sigue modelos de chat y de código, y un índice construido en tu máquina no cuesta contexto. Lo que sí cuesta contexto son los pasajes que recupera, y el buscador lo calcula por longitud de contexto.
Ver cómo afecta el contexto recuperado →Términos relacionados
RAG (generación aumentada por recuperación)TokenVentana de contexto