La brecha de conocimiento que se esconde detrás de una respuesta segura
Los modelos de lenguaje son excelentes para responder preguntas basadas en patrones aprendidos durante su extenso entrenamiento. Sin embargo, no pueden acceder a información que no formó parte de esos datos de entrenamiento, como las últimas actualizaciones de políticas internas de su empresa o un incidente que ocurrió ayer. Preguntar sobre un cambio específico en la "refund policy" interna de la semana pasada, por ejemplo, probablemente resultaría en una respuesta segura pero incorrecta o generalizada.
Esta "brecha de conocimiento" es donde interviene Retrieval-Augmented Generation (RAG). RAG no se trata de hacer que el modelo sea intrínsecamente más inteligente o de actualizar su conocimiento central. En cambio, se trata de darle al modelo información externa relevante justo a tiempo para responder a su pregunta específica.
Piénselo como entregarle a un experto una hoja de trucos antes de que responda. Su aplicación primero busca en una base de conocimiento separada (a menudo una vector database) información directamente relacionada con su consulta. Esta base de datos almacena sus documentos, artículos o políticas internas, transformados en embeddings numéricos que capturan su significado.
Si pregunta "cómo recupero mi dinero", la vector database puede encontrar un documento titulado "refund policy", incluso si esas palabras exactas no estaban en su pregunta. Este texto recuperado se agrega luego a su prompt, brindando al modelo de lenguaje el contexto preciso que necesita para formular una respuesta precisa. Este proceso permite que el modelo responda preguntas sobre documentos en los que nunca fue entrenado explícitamente.
Por qué "Refund Policy" puede coincidir con "recuperar mi dinero"
Alguna vez ha intentado buscar un documento usando palabras ligeramente diferentes a las del título? Los motores de búsqueda tradicionales a menudo tienen dificultades, ya que necesitan una coincidencia de palabras clave casi perfecta. Si escribió "cómo recupero mi dinero", una búsqueda de un documento titulado "Refund Policy" podría no arrojar resultados. Ahí es donde la semantic search cambia las reglas del juego.
La semantic search comprende el significado detrás de sus palabras, no solo las palabras en sí. Puede conectar "recuperar mi dinero" con "refund policy" porque reconoce que transmiten el mismo concepto central. Esta magia ocurre a través de embeddings: representaciones numéricas de texto.
Piense en un embedding como un punto en un vasto espacio multidimensional. Las palabras y frases con significados similares, como "manzana" y "naranja", se ubicarán muy cerca en este espacio. Un concepto completamente no relacionado, como "coche", estaría mucho más lejos. Si bien podemos visualizar esto en dos o tres dimensiones, los embeddings de texto del mundo real a menudo usan cientos o incluso miles de dimensiones para capturar relaciones semánticas intrincadas.
Estas colecciones de números se llaman vectors. Una vector database almacena estos vectores junto con sus fragmentos de texto originales. Cuando hace una pregunta, su consulta también se convierte en un embedding. Luego, la base de datos encuentra rápidamente los fragmentos de texto cuyos vectores están más cerca del vector de su consulta, recuperando la información semánticamente más relevante. Esto permite que el sistema extraiga pasajes de origen exactos directamente relacionados con su pregunta, incluso si la redacción es diferente.
Los cuatro movimientos que permiten a RAG responder con fuentes
Así es como Retrieval-Augmented Generation (RAG) permite que una IA responda preguntas utilizando información en la que nunca fue entrenada. Es un ingenioso baile de cuatro pasos entre sus documentos y el modelo de lenguaje.
Primero, sus documentos fuente se dividen en chunks más pequeños. Cada chunk se convierte luego en un embedding: una larga lista de números que captura su significado. Piense en ello como mapear palabras a coordenadas en un gráfico gigante multidimensional. Estos embeddings se almacenan en una base de datos especial, a menudo llamada base de datos vectorial, junto con sus chunks de texto originales.
Cuando usted hace una pregunta, su consulta pasa por el mismo proceso de embedding. La base de datos vectorial encuentra entonces los chunks cuyos embeddings son numéricamente más cercanos al embedding de su pregunta. Esto significa que recupera texto que es semánticamente similar, incluso si las palabras exactas no coinciden.
A continuación, la aplicación toma su pregunta original y le añade los chunks de texto recuperados, creando un prompt expandido. Este prompt aumentado se envía entonces al modelo de lenguaje. Por ejemplo, si usted preguntara sobre una política de reembolso, el prompt podría convertirse en: "Usando el siguiente contexto: [texto de la política de reembolso recuperado], por favor explique cómo puedo recuperar mi dinero".
El modelo de lenguaje genera entonces su respuesta utilizando este contexto fresco y proporcionado. No está recordando hechos de sus datos de entrenamiento, sino procesando la información específica que se le entrega en ese momento. Esto significa que puede responder con confianza preguntas sobre los documentos internos de su empresa o eventos de ayer. Para más detalles técnicos, consulte el artículo original sobre Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks.
¿Te está gustando? Recibe uno así en tu bandeja cada mañana.
un correo al día · date de baja en dos clics · sin rastreadores de terceros
Dónde falla el RAG simple y qué viene después
El Retrieval-Augmented Generation (RAG) simple alcanza límites prácticos rápidamente. A veces, la búsqueda semántica extrae chunks irrelevantes o pasa por alto coincidencias exactas cruciales, como códigos de error que no tienen significados similares. Tampoco sabrá sobre las actualizaciones de sus documentos a menos que los embeddings sean reconstruidos.
Es por eso que los sistemas RAG de producción a menudo combinan la búsqueda por palabras clave con la recuperación vectorial. Obtienen resultados de ambos métodos y luego utilizan un modelo "reranker" para ordenarlos por relevancia real. Esto mantiene al RAG ágil y actualizado, a diferencia del fine-tuning de un modelo, que altera permanentemente su comportamiento y requiere reentrenamiento para las actualizaciones.
No confunda las ventanas de contexto más largas con una solución mágica; incluso los modelos de lenguaje grandes tienen dificultades para procesar eficientemente enormes cantidades de texto. Los enfoques avanzados de RAG, como el agentic RAG, introducen la búsqueda iterativa, permitiendo que la IA refine sus consultas. GraphRAG, otra innovación, descubre relaciones entre puntos de datos, yendo más allá de la simple recuperación de chunks hacia una comprensión más matizada de su base de conocimientos.
Preguntas frecuentes
¿Qué es RAG en IA?
Retrieval-Augmented Generation (RAG) recupera información externa relevante y la suministra a un modelo de lenguaje para que pueda responder utilizando ese contexto.
¿Cómo ayuda una base de datos vectorial a RAG?
Almacena embeddings de texto y recupera pasajes cuyo significado es cercano a la consulta de un usuario, incluso cuando la redacción difiere.
¿Elimina RAG las alucinaciones de la IA?
No. RAG puede fundamentar las respuestas en el material de origen, pero la recuperación irrelevante o incompleta y los errores del modelo aún pueden producir respuestas incorrectas.
¿En qué se diferencia RAG del fine-tuning?
RAG suministra información relevante en el momento de la consulta; el fine-tuning cambia el comportamiento aprendido de un modelo a través de entrenamiento adicional.