Reduzieren Sie Halluzinationen eines KI-Assistenten auf Ihrer Website
Eine nicht belegte Antwort kann an mehreren Stellen entstehen. Die Quelle kann fehlen, der Abruf kann die falsche Seite wählen, zwei Seiten können sich widersprechen, oder die Antwort fügt eine Aussage hinzu, die die Passagen nicht stützen.
Behandeln Sie „Halluzination“ als Befund, den es zu untersuchen gilt, nicht als einzelne Einstellung, die man abschaltet.
Ordnen Sie den Fehler ein
| Fehler | Beleg | Passende Lösung |
|---|---|---|
| Fehlende Quelle | Die Suche im Datensatz findet keinen belegenden Text | Die maßgebliche Seite ergänzen oder verbessern |
| Veraltete Quelle | Der Datensatz enthält eine ältere Version | Die Quelle aktualisieren oder ersetzen |
| Widersprüchliche Quellen | Zwei indexierte Seiten nennen unterschiedliche Angaben | Den Widerspruch auflösen oder die veraltete Quelle ausschließen |
| Fehlgeschlagener Abruf | Die richtige Quelle existiert, wird aber nicht ausgewählt | Umfang, Formulierungen, Tags oder Abrufeinstellungen verbessern |
| Nicht belegte Synthese | Quellenkarten erscheinen, stützen die Aussage aber nicht | Antwortregeln und Fallback-Verhalten verschärfen |
| Frage außerhalb des Umfangs | Keine freigegebene Quelle sollte sie beantworten | Ablehnen und den richtigen nächsten Schritt nennen |
Beginnen Sie nicht damit, den Prompt umzuschreiben, wenn die Quelle fehlt.
Halten Sie den Datensatz fokussiert
Entfernen Sie doppelte, private, irrelevante und veraltete Inhalte. Nutzen Sie eingeschlossene und ausgeschlossene Pfade, damit eine öffentliche Website-Erfassung keine Kontoseiten, alten Kampagnen und Archivkopien sammelt.
Bei kleinen, kuratierten Datensätzen kann Seekdown den gesamten Inhalt des Datensatzes als Kontext verwenden. Bei größeren Datensätzen ruft der Standard-Suchmodus passende Inhalte ab. Das dokumentierte Standardmaximum liegt bei 10 Ergebnissen; eine Änderung kann den Kontext erweitern oder fokussieren, sollte aber anhand eines Fragenkatalogs getestet werden.
Machen Sie Quellen bei der Prüfung sichtbar
Lassen Sie Show highlighted results während der Tests aktiviert, damit jede Antwort ihre Referenzkarten anzeigt.
Öffnen Sie für jede wesentliche Aussage die zitierte Quelle und suchen Sie den belegenden Text. Eine Quellenangabe ist nur dann ein Diagnosebeleg, wenn sie die Antwort tatsächlich stützt.
Legen Sie einen vorsichtigen Fallback fest
Beschreiben Sie, was der Assistent tun soll, wenn die ausgewählten Quellen eine Frage nicht beantworten. Angemessen kann sein, zu sagen, dass die Information nicht verfügbar ist, um klärenden Kontext zu bitten, auf eine relevante Seite zu verlinken oder den Besucher an einen Menschen zu verweisen.
Vermeiden Sie Anweisungen, die es belohnen, jede Frage zu beantworten. Vollständigkeit nützt nichts, wenn die Quelle schweigt.
Pflegen Sie einen Regressionstest
Nehmen Sie bekannte Fakten, seitenübergreifende Fragen, mehrdeutige Formulierungen, Quellenkonflikte und nicht unterstützte Anfragen auf. Halten Sie die erwartete Quelle und unzulässige Aussagen fest.
Führen Sie diesen Test nach Änderungen an Quellinhalten, Erfassungsumfang, Datensatzverbindungen, Abrufeinstellungen oder Antwortanweisungen erneut aus. Das Ziel ist kein Versprechen von null Halluzinationen, sondern ein kontrollierter Prozess, der nicht belegte Antworten findet und reduziert.