RAG
Aussi : génération augmentée par récupération · retrieval-augmented generation
Architecture qui fait précéder la génération d’une recherche : le modèle rédige sa réponse à partir de documents récupérés pour l’occasion.
Le terme vient d’un article de recherche de 2020, de Lewis et ses coauteurs. Le principe : à la question posée, un système de récupération va chercher des passages dans un index — le web, une base documentaire — et les place dans le contexte du modèle, qui rédige en s’y appuyant. Le modèle peut ainsi répondre sur ce qui est postérieur à sa date de coupure ou absent de son entraînement, et citer ses sources.
Les moteurs de réponse et les assistants dotés d’une recherche web suivent ce schéma, chacun avec son index et ses règles, peu documentés. Pour une page, il y a deux portes à franchir, et non une : être récupérée — accessible aux robots, indexée, pertinente pour la requête émise — puis être retenue par le modèle parmi les passages fournis. Un bon classement n’aide que pour la première.
Le sujet, traité en entier
Source Lewis et al. — Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (arXiv 2005.11401)