Le RAG n'est pas cassé. Vos documents le sont.
67 % des échecs RAG viennent de la qualité documentaire, pas du retrieval. Le RAG n'est pas cassé — vos documents le sont.
Un CTO ou un CDO de grand groupe qui a passé une bonne partie de 2025 et du début 2026 à optimiser son pipeline de retrieval — meilleur chunking, ré-ranking plus fin, embeddings mis à jour — a de bonnes chances d’arriver à un constat frustrant : les gains sont réels, mais marginaux, et les mauvaises réponses persistent. Ce n’est pas un problème de retrieval, et ce n’est pas non plus un problème que la prochaine génération de modèle résoudra seule. Les analyses publiées en 2026 convergent, malgré des chiffres dispersés selon le périmètre mesuré, sur une même cause dominante : la qualité et la cohérence des documents qui nourrissent ces systèmes. Le RAG n’est pas cassé. Ce sont les documents qui le sont — et 2026 est l’année où le marché du logiciel d’entreprise commence, à son tour, à le reconnaître publiquement.
Le diagnostic converge, les chiffres divergent : ce n’est pas le retrieval
La part des déploiements RAG qui n’atteignent pas leurs objectifs métier fait l’objet d’estimations très dispersées en 2026 selon les études et les périmètres mesurés — certaines sources parlent de 47 %, d’autres de plus de 70 %, voire au-delà de 80 % pour les projets qui n’atteignent jamais la production. Cette dispersion impose la prudence sur le chiffre exact ; elle ne doit pas masquer la convergence, bien plus nette, sur la cause dominante. Une analyse Forrester publiée en février 2026 attribue 67 % des échecs de déploiement RAG à des problèmes de qualité des données, pas aux algorithmes de retrieval ni au choix du modèle. Des tests comparatifs indépendants documentés courant 2026 rapportent un écart de précision de retrieval de l’ordre de 30 à 45 points entre un corpus gouverné (85-92 % de précision) et un corpus non gouverné (45-60 %), sur une même architecture technique, changement de modèle et de pipeline mis à part.
Pour un comité de pilotage IA qui a budgété 2026 sur une montée en gamme de modèle ou une refonte du pipeline de retrieval, cette convergence déplace le diagnostic. Le goulot d’étranglement n’est plus algorithmique. Il est documentaire : un corpus qui contient des versions contradictoires d’une même procédure, des documents sans propriétaire identifiable, ou des politiques obsolètes encore actives, produit les mêmes mauvaises réponses quel que soit le modèle branché dessus. Un modèle plus puissant ne corrige pas une contradiction de fond entre deux documents ; il la restitue simplement avec plus d’assurance.
Ce que le marché reconnaît enfin : la catégorie DKP
C’est précisément la discipline que K-AI qualifie de Document Knowledge Platform, ou DKP : traiter le référentiel documentaire d’une entreprise avec la même rigueur qu’un référentiel de données structurées, en trois temps — Gouverner (savoir qui est responsable de chaque document et depuis quand il fait autorité), Nettoyer (résoudre les contradictions et les doublons au niveau du contenu, pas seulement du fichier) et Activer (surveiller en continu pour que le corpus ne se dégrade pas au rythme où il est modifié).
Le marché du logiciel d’entreprise commence, en 2026, à nommer le même problème depuis sa propre position — celle du data catalog, pas celle du RAG. Le dernier Forrester Wave sur les solutions de data quality (Q1 2026) note que les acheteurs veulent désormais des plateformes capables de profiler des documents, des logs et d’autres données non structurées. Gartner, dans son Magic Quadrant 2026 pour les plateformes de gouvernance data & analytics, anticipe que 60 % des équipes de gouvernance donneront la priorité à la gouvernance des données non structurées d’ici 2027. Sur le terrain concurrentiel, BigID et Atlan ont annoncé en 2026 un catalogue unifiant données structurées et non structurées dans un même plan de contrôle IA-ready, et Collibra a acquis Deasy Labs en 2025 pour étendre sa gouvernance aux actifs non structurés et aux usages LLM.
Ce mouvement valide, de l’extérieur, ce que la catégorie DKP nomme depuis le début : le document non structuré est devenu un sujet de gouvernance de première ligne. Mais nommer le document dans un catalogue et vérifier ce qu’il dit sont deux choses différentes — c’est précisément l’écart que ces annonces ne referment pas encore, et que le paragraphe suivant détaille.
La limite structurelle : cataloguer un document n’est pas vérifier son contenu
Ce que ces plateformes profilent aujourd’hui reste très majoritairement du métadonnées et du lignage : quel fichier existe, où, avec quels attributs déclarés, qui y a accès. Peu d’entre elles vérifient si le contenu de deux documents se contredit sur le fond, ou si un document reste valide dans le temps. C’est la limite structurelle d’un data catalog étendu au document : il répond à « où est ce document et qui y a accès », pas à « ce document dit-il encore la vérité, et depuis quand ». Un audit de permissions bien fait réduit l’exposition d’un document erroné ; il ne corrige jamais l’erreur elle-même.
Le mécanisme se vérifie sur le terrain. Sur le référentiel documentaire d’un grand groupe européen de l’énergie, un diagnostic ciblé mené sur un périmètre défini d’environ 500 documents techniques et réglementaires a identifié 19 % de documents porteurs d’anomalies (contradictions, obsolescence, absence de source faisant autorité). Le nettoyage de ce périmètre, mené sur trois semaines à raison d’1,5 ETP par semaine, a permis de réduire de plus de 50 % les conflits documentaires actifs sur ce même périmètre — un résultat mesuré sur ce diagnostic précis, pas extrapolé à l’ensemble du patrimoine documentaire du groupe.
L’échéance qui transforme la question en obligation
Le cycle de vie et la cohérence du corpus documentaire cessent d’être une simple question de performance IA à partir du 2 août 2026, date à laquelle les obligations applicables aux systèmes d’IA à haut risque deviennent pleinement opposables dans l’Union européenne, avec des sanctions pouvant atteindre 15 millions d’euros ou 3 % du chiffre d’affaires mondial. Les articles 12 et 13 imposent une journalisation automatique tout au long du cycle de vie du système, capable de reconstituer a posteriori la logique d’une décision assistée par IA — ce qui suppose de savoir exactement quelle version d’un document a alimenté quelle réponse, et depuis quand cette version faisait autorité. Un corpus sans gouvernance documentaire explicite rend cette reconstitution pratiquement impossible, indépendamment de la qualité du système de journalisation technique.
C’est un argument supplémentaire pour le CDO : selon l’enquête 2026 de Deloitte auprès des Chief Data and Analytics Officers, 94 % d’entre eux anticipent une progression de leur influence dans les douze prochains mois. La fiabilité et la traçabilité des données — désormais documentaires autant que structurées — deviennent la condition de passage à l’échelle de l’IA d’entreprise, pas un sujet périphérique de conformité confié à la seule DSI.
Ce que le marché n’a pas encore résolu
Le Forrester Wave, le Magic Quadrant Gartner et les mouvements de M&A cités plus haut confirment tous la même chose : la gouvernance du document non structuré est devenue une ligne budgétaire reconnue en 2026, plus une curiosité de niche. Mais reconnaître le problème et le résoudre au niveau du contenu restent deux étapes distinctes, et c’est cette deuxième étape — pas la première, déjà validée par le marché — qui détermine si un projet IA générative tient ses promesses ou rejoint la liste des abandons. Pour un CDO qui arbitre son budget 2027, la question n’est plus « faut-il gouverner nos documents ? » — le marché a tranché — mais « notre dispositif vérifie-t-il le contenu, ou seulement son emplacement ? ».
Foire aux questions
Si le problème n’est pas le retrieval, pourquoi tant d’équipes continuent-elles d’optimiser leur pipeline RAG ?
Parce que le retrieval reste le levier le plus visible et le plus proche des équipes techniques. Optimiser un pipeline produit des gains mesurables à court terme, mais plafonne rapidement si le corpus source contient des contradictions ou des documents obsolètes : aucun réglage de retrieval ne peut compenser une information fausse à la source. Le test simple : si deux versions contradictoires d’une même procédure existent encore dans le corpus, aucun réglage du pipeline ne fera émerger la bonne réponse de façon fiable.
Un data catalog étendu au document ne résout-il pas déjà ce problème ?
Partiellement. Un data catalog documente l’existence, l’emplacement et les métadonnées déclaratives d’un document, y compris pour les données non structurées désormais. Il ne vérifie généralement pas si le contenu de deux documents se contredit, ni si un document reste valide dans le temps — c’est le périmètre propre à une démarche de gouvernance-nettoyage-surveillance du contenu.
Comment un diagnostic de corpus se déroule-t-il sans exposer les documents les plus sensibles ?
Le diagnostic se mène sur un périmètre défini conjointement avec l’organisation, sous cadre contractuel de confidentialité, sans extraction des documents hors de l’environnement validé. Ce périmètre est validé conjointement par le Document Owner métier concerné et le RSSI/DPO — pas par la seule DSI — avant tout démarrage.
Pourquoi les chiffres sur le taux d’échec du RAG varient-ils autant d’une source à l’autre ?
Parce que les études mesurent des périmètres différents : certaines comptent les projets abandonnés avant la production, d’autres les déploiements en production jugés décevants par les métiers. Cette hétérogénéité est une raison de plus de raisonner en tendance convergente sur la cause plutôt qu’en chiffre unique sur l’ampleur.
Quel est le lien entre gouvernance documentaire et conformité à l’AI Act ?
Les obligations de journalisation et de traçabilité des systèmes IA à haut risque (articles 12 et 13, opposables depuis le 2 août 2026) supposent de pouvoir reconstituer quelle version d’un document a alimenté quelle décision. Un corpus sans gouvernance documentaire explicite rend cette traçabilité difficile à démontrer.
Pour aller plus loin
K-AI Corpus Diagnostic — 10 jours ouvrés sur votre référentiel documentaire, rapport complet des 20 anomalies les plus critiques, garantie remboursement si aucune anomalie valable détectée. Pour vérifier si vos mauvaises réponses IA viennent du corpus et non du pipeline, contactez l’équipe K-AI : contact@k-ai.ai.
K-AI accompagne déjà CMA CGM, Veolia, PwC, BNP Paribas, TotalEnergies et CEVA Logistics. Partenaires : AWS, Snowflake, Microsoft, Wavestone, Devoteam.