- RAG = retrouver les passages pertinents dans vos documents, puis demander au modèle de répondre uniquement à partir d’eux.
- Le point critique n’est pas le modèle, c’est la recherche : découpage, embeddings, seuils.
- Un bon assistant cite ses sources et refuse quand le corpus ne couvre pas la question — et ce refus se teste.
- En français et en arabe, les seuils de similarité doivent être réglés par langue. Nous l’avons appris sur El Maître.
Le problème : une IA généraliste invente
Un grand modèle de langage a appris sur le web. Posez-lui une question précise sur votre règlement intérieur, votre catalogue ou le droit tunisien, et il produira une réponse plausible — parfois exacte, parfois fausse, toujours sur le même ton assuré. Pour un usage professionnel, c'est le pire des cas : on ne sait pas quand se méfier.
Le principe du RAG
- Vos documents sont découpés en passages et transformés en vecteurs (embeddings) stockés dans une base — nous utilisons PostgreSQL avec pgvector.
- Quand un utilisateur pose une question, on cherche les passages les plus proches.
- Si aucun passage n’est assez proche, l’assistant le dit au lieu de répondre.
- Sinon, le modèle reçoit la question et ces passages, avec l’instruction de ne répondre qu’à partir d’eux et de citer la source.
Vos documents restent dans votre base. Le modèle ne les apprend pas : il les lit au moment de répondre.
Cas réel : El Maître, 8 000 articles de loi en français et en arabe
El Maître est une plateforme juridique tunisienne. Nous avons collecté et ingéré plus de 8 000 articles répartis sur 16 codes, en français et en arabe, dans pgvector, puis construit un assistant qui répond avec l'article utilisé et refuse quand le corpus est muet.
La principale difficulté n'était pas là où on l'attendait. Les correspondances en arabe obtenaient systématiquement des scores de similarité plus bas que des correspondances équivalentes en français. Avec un seuil unique, l'assistant refusait à tort des questions en arabe auxquelles le corpus répondait parfaitement. Régler les seuils par langue a supprimé la plus grande source de faux refus.
Leçon : testez le chemin du refus aussi sérieusement que les bonnes réponses. Un assistant qui refuse trop est aussi inutile qu'un assistant qui invente.
À quoi ça sert dans une entreprise
- Support client : répondre à partir de la documentation produit et des conditions générales.
- Interne : retrouver une procédure, une clause, une règle RH sans chercher dans vingt PDF.
- Juridique et conformité : interroger des textes réglementaires avec la référence exacte.
- Commercial : répondre aux questions techniques d’un catalogue produit.
Ce qu’il faut prévoir
- Des documents propres et à jour : l’assistant ne sera jamais meilleur que son corpus.
- Un jeu de questions de test, avec les réponses attendues et les questions auxquelles il doit refuser de répondre.
- Un coût d’API proportionnel à l’usage, en général faible par question ; l’hébergement de la base est un coût fixe.
- Une interface : widget sur votre site, outil interne, ou intégration dans une application existante.