Réduisez les hallucinations d’un assistant IA sur votre site web
Une réponse non étayée peut apparaître à plusieurs niveaux. La source peut manquer, la recherche peut sélectionner la mauvaise page, deux pages peuvent se contredire, ou la réponse peut ajouter une affirmation que les passages n’étayent pas.
Considérez l’« hallucination » comme un diagnostic à approfondir, et non comme un réglage unique à désactiver.
Classez la défaillance
| Défaillance | Indice | Correction appropriée |
|---|---|---|
| Source manquante | La recherche dans le jeu de données ne trouve aucun texte à l’appui | Ajouter ou améliorer la page de référence |
| Source obsolète | Le jeu de données contient une version plus ancienne | Actualiser ou remplacer la source |
| Sources contradictoires | Deux pages indexées indiquent des informations différentes | Résoudre le conflit ou exclure la source obsolète |
| Échec de la recherche | La bonne source existe mais n’est pas sélectionnée | Améliorer le périmètre, la formulation du contenu, les tags ou les réglages de recherche |
| Synthèse non étayée | Les fiches sources s’affichent mais n’étayent pas l’affirmation | Resserrer les règles de réponse et le comportement de repli |
| Question hors périmètre | Aucune source approuvée ne devrait y répondre | Décliner et indiquer la bonne étape suivante |
Ne commencez pas par réécrire le prompt lorsque la source est absente.
Gardez un jeu de données ciblé
Supprimez les contenus en double, privés, non pertinents et obsolètes. Utilisez des chemins inclus et exclus afin qu’une capture de site web public ne collecte pas les pages de compte, les anciennes campagnes et les copies d’archives.
Pour les petits jeux de données soigneusement sélectionnés, Seekdown peut utiliser l’intégralité du contenu du jeu de données comme contexte. Pour les jeux de données plus volumineux, le mode de recherche par défaut récupère le contenu correspondant. Le maximum par défaut documenté est de 10 résultats ; le modifier peut élargir ou resserrer le contexte, mais il faut le tester sur un jeu de questions.
Rendez les sources visibles pendant la vérification
Gardez l’option Show highlighted results activée pendant les tests afin que chaque réponse affiche ses fiches de référence.
Pour chaque affirmation importante, ouvrez la source citée et repérez le texte qui l’étaye. Une citation n’est une preuve utile au diagnostic que si elle étaye réellement la réponse.
Définissez un repli prudent
Indiquez ce que l’assistant doit faire lorsque les sources sélectionnées ne répondent pas à une question. Le comportement approprié peut consister à dire que l’information n’est pas disponible, à demander des précisions, à renvoyer vers une page pertinente ou à orienter le visiteur vers un humain.
Évitez les instructions qui récompensent le fait de répondre à toutes les questions. L’exhaustivité n’a aucune utilité lorsque la source est muette.
Maintenez un jeu de non-régression
Incluez des informations connues, des questions couvrant plusieurs pages, des formulations ambiguës, des conflits entre sources et des demandes non couvertes. Consignez la source attendue et les affirmations interdites.
Relancez ce jeu après toute modification du contenu source, du périmètre de capture, des connexions aux jeux de données, des réglages de recherche ou des instructions de réponse. L’objectif n’est pas de promettre zéro hallucination ; il s’agit d’un processus maîtrisé qui détecte et réduit les réponses non étayées.