Faire répondre une IA sur vos propres documents

Une intelligence artificielle généraliste connaît le monde, mais elle ne connaît pas votre entreprise. Elle ignore vos conditions de garantie, vos tarifs, la procédure d'ouverture de compte et la note interne de mars dernier.

La technique qui comble cet écart s'appelle le RAG, pour retrieval-augmented generation : littéralement, une génération enrichie par une recherche.

Le principe, sans jargon

Trois temps, à chaque question posée.

On cherche. La question sert à retrouver, dans vos documents, les quelques passages les plus susceptibles de contenir la réponse.

On fournit. Ces passages sont transmis au modèle en même temps que la question, avec une consigne simple : réponds à partir de ça, et uniquement de ça.

On cite. La réponse indique de quel document elle provient, pour que le lecteur puisse vérifier.

Ce troisième temps est le plus important, et c'est celui qu'on saute le plus souvent. Une réponse non sourcée est invérifiable, donc inutilisable dès que l'enjeu est sérieux.

Pourquoi ne pas simplement tout donner au modèle

C'est la question légitime. Les modèles récents acceptent des contextes très larges, alors pourquoi ne pas leur fournir l'ensemble de la documentation à chaque question ?

Pour trois raisons. Le coût, d'abord : on paie à la quantité de texte traitée, et envoyer mille pages pour répondre à une question sur les délais de livraison revient cher, à chaque fois. La précision, ensuite : noyée dans mille pages, l'information pertinente se dilue, et la qualité des réponses baisse. La fraîcheur, enfin : une base consultée à la demande se met à jour en remplaçant un document, sans rien reconstruire.

Là où ça échoue vraiment

Les documents contradictoires. Deux versions d'une procédure, l'ancienne et la nouvelle, toutes deux dans la base. Le système retrouvera l'une ou l'autre, sans savoir laquelle fait foi. C'est la cause numéro un des mauvaises réponses, et elle n'a rien de technique : c'est un problème de rangement.

Les questions qui demandent une synthèse. « Combien de contrats arrivent à échéance ce trimestre ? » ne se résout pas en retrouvant trois passages. Il faut interroger des données structurées, pas fouiller des documents.

Les tableaux et les PDF scannés. Un tableau mis à plat en texte perd le lien entre la ligne et la colonne. Un scan sans reconnaissance de caractères ne contient aucun texte du tout.

Le vocabulaire maison. Si vos équipes disent « dossier » là où les documents écrivent « affaire », la recherche passe à côté. Ça se corrige, mais il faut l'avoir vu.

Ce qui détermine le résultat

Ce n'est presque jamais le choix du modèle. C'est l'état de vos documents.

Une base propre, à jour, sans doublons ni versions concurrentes, donne de bons résultats avec un modèle modeste. Une base en désordre donnera des réponses douteuses avec le meilleur modèle du marché — et le plus ennuyeux, c'est qu'elles auront l'air sûres d'elles.

Avant de lancer un tel projet, le travail utile est donc un travail d'archiviste : qu'est-ce qui fait foi, qu'est-ce qui est périmé, qui a le droit de voir quoi. C'est moins séduisant qu'une démonstration, et c'est ce qui décide du résultat.

Notre page Agent IA sur-mesure décrit la façon dont on mène ces projets.