Le RAG donne une mémoire à l'IA, mais il y a un piège

Les modèles de langage excellent à répondre aux questions en se basant sur des modèles appris lors de leur entraînement intensif. Cependant, ils ne peuvent pas accéder aux informations qui ne faisaient pas partie de ces données d'entraînement, comme les dernières mises à jour de la politique interne de votre entreprise ou un incident survenu hier. Interroger le modèle sur un changement spécifique de "refund policy" survenu la semaine dernière, par exemple, aboutirait probablement à une réponse assurée mais incorrecte ou généralisée.

Ce "fossé de connaissances" est là où le Retrieval-Augmented Generation (RAG) intervient. Le RAG ne consiste pas à rendre le modèle intrinsèquement plus intelligent ou à mettre à jour ses connaissances fondamentales. Il s'agit plutôt de fournir au modèle des informations externes pertinentes au moment opportun pour répondre à votre question spécifique.

Imaginez que vous donniez une antisèche à un expert avant qu'il ne réponde. Votre application recherche d'abord dans une base de connaissances séparée—souvent une vector database—des informations directement liées à votre requête. Cette base de données stocke vos documents, articles ou politiques internes, transformés en embeddings numériques qui capturent leur signification.

Si vous demandez "comment puis-je récupérer mon argent", la vector database peut trouver un document intitulé "refund policy", même si ces mots exacts ne figuraient pas dans votre question. Ce texte récupéré est ensuite ajouté à votre prompt, donnant au modèle de langage le contexte précis dont il a besoin pour formuler une réponse exacte. Ce processus permet au modèle de répondre à des questions sur des documents sur lesquels il n'a jamais été explicitement entraîné.

Avez-vous déjà essayé de rechercher un document en utilisant des mots légèrement différents de ceux du titre ? Les moteurs de recherche traditionnels ont souvent du mal, nécessitant une correspondance de mots-clés presque parfaite. Si vous tapiez "how do I get my money back", une recherche pour un document intitulé "Refund Policy" pourrait ne rien donner. C'est là que la semantic search change la donne.

La semantic search comprend la signification derrière vos mots, pas seulement les mots eux-mêmes. Elle peut relier "get my money back" à "refund policy" car elle reconnaît qu'ils véhiculent le même concept fondamental. Cette magie opère grâce aux embeddings : des représentations numériques du texte.

Considérez un embedding comme un point dans un vaste espace multidimensionnel. Les mots et expressions ayant des significations similaires, comme "pomme" et "orange", seront situés très près les uns des autres dans cet espace. Un concept totalement sans rapport, comme "voiture", serait beaucoup plus éloigné. Bien que nous puissions visualiser cela en deux ou trois dimensions, les embeddings de texte réels utilisent souvent des centaines, voire des milliers de dimensions pour capturer des relations sémantiques complexes.

Ces collections de nombres sont appelées vectors. Une vector database stocke ces vectors aux côtés de leurs segments de texte originaux. Lorsque vous posez une question, votre requête est également convertie en embedding. La base de données trouve alors rapidement les segments de texte dont les vectors sont les plus proches de celui de votre requête, récupérant ainsi les informations les plus sémantiquement pertinentes. Cela permet au système d'extraire des passages sources exacts directement liés à votre question, même si la formulation est différente.

Voici comment le Retrieval-Augmented Generation (RAG) permet à une IA de répondre à des questions en utilisant des informations sur lesquelles elle n'a jamais été entraînée. C'est une danse intelligente en quatre étapes entre vos documents et le modèle de langage.

Tout d'abord, vos documents sources sont découpés en chunks (morceaux) plus petits. Chaque chunk est ensuite converti en un embedding — une longue liste de nombres qui capture sa signification. Imaginez cela comme le mappage de mots vers des coordonnées sur un graphique géant multidimensionnel. Ces embeddings sont stockés dans une base de données spéciale, souvent appelée base de données vectorielle, aux côtés de leurs chunks de texte originaux.

Lorsque vous posez une question, votre requête suit le même processus d'embedding. La base de données vectorielle trouve alors les chunks dont les embeddings sont numériquement les plus proches de l'embedding de votre question. Cela signifie qu'elle récupère du texte sémantiquement similaire, même si les mots exacts ne correspondent pas.

Ensuite, l'application prend votre question originale et y ajoute les chunks de texte récupérés, créant ainsi un prompt étendu. Ce prompt augmenté est ensuite envoyé au modèle de langage. Par exemple, si vous posiez une question sur une politique de remboursement, le prompt pourrait devenir : « En utilisant le contexte suivant : [texte de la politique de remboursement récupéré], veuillez expliquer comment je peux être remboursé. »

Le modèle de langage génère alors sa réponse en utilisant ce contexte frais et fourni. Il ne se contente pas de rappeler des faits issus de ses données d'entraînement, mais traite plutôt les informations spécifiques qui lui sont transmises à ce moment précis. Cela signifie qu'il peut répondre avec assurance à des questions sur les documents internes de votre entreprise ou sur des événements survenus hier. Pour plus de détails techniques, consultez l'article original sur Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks.

Le Retrieval-Augmented Generation (RAG) simple atteint rapidement ses limites pratiques. Parfois, la recherche sémantique récupère des chunks non pertinents ou manque des correspondances exactes cruciales, comme des codes d'erreur qui n'ont pas de significations similaires. Il ne sera pas non plus au courant des mises à jour de vos documents à moins que les embeddings ne soient reconstruits.

C'est pourquoi les systèmes RAG en production combinent souvent la recherche par mots-clés avec la recherche vectorielle. Ils récupèrent les résultats des deux méthodes, puis utilisent un modèle de « reranker » pour les trier par pertinence réelle. Cela permet au RAG de rester agile et à jour, contrairement au fine-tuning d'un modèle, qui modifie son comportement de manière permanente et nécessite un réentraînement pour chaque mise à jour.

Ne considérez pas les fenêtres de contexte plus larges comme une solution miracle ; même les grands modèles de langage ont du mal à traiter efficacement d'énormes quantités de texte. Les approches RAG avancées, telles que le agentic RAG, introduisent une recherche itérative, permettant à l'IA d'affiner ses requêtes. GraphRAG, une autre innovation, découvre les relations entre les points de données, allant au-delà de la simple récupération de chunks pour une compréhension plus nuancée de votre base de connaissances.

Qu'est-ce que le RAG en IA ?

Le Retrieval-Augmented Generation (RAG) récupère des informations externes pertinentes et les fournit à un modèle de langage afin qu'il puisse répondre en utilisant ce contexte.

Comment une base de données vectorielle aide-t-elle le RAG ?

Elle stocke des embeddings de texte et récupère des passages dont la signification est proche de la requête d'un utilisateur, même lorsque la formulation diffère.

Le RAG élimine-t-il les hallucinations de l'IA ?

Non. Le RAG peut ancrer les réponses dans le matériel source, mais une récupération non pertinente ou incomplète ainsi que des erreurs du modèle peuvent toujours produire des réponses incorrectes.

En quoi le RAG est-il différent du fine-tuning ?

Le RAG fournit des informations pertinentes au moment de la requête ; le fine-tuning modifie le comportement appris d'un modèle par un entraînement supplémentaire.