Ergebnis dieses Guides
Eine Antwort mit überprüfbaren Belegen und klaren Grenzen
Arbeitsumgebung
Eine Gesprächsoberfläche mit begrenzter Gesprächshistorie und klarer Übergabe an Menschen
Wann ist diese Entscheidung wichtig?
Flüssige Sprache ist kein Beweis. Besonders Namen, Zahlen und Quellenangaben müssen gegen eine verlässliche Grundlage geprüft werden.
Legen Sie fest, welche Gesprächsinformationen für eine Antwort nötig sind und wie neue Sitzungen getrennt werden. Kommunizieren Sie den Aufgabenbereich und bieten Sie bei fehlendem Wissen einen erreichbaren nächsten Kontaktweg.
Halluzinationen: Schritt für Schritt.
- 01
Vorbereiten
Bestimmen Sie, welche Aussagen belegt werden müssen und welche Informationsquellen zulässig sind.
- 02
In KI-Chatbots umsetzen
Lassen Sie Belege mitliefern und prüfen Sie deren tatsächliche Aussage. Bei fehlenden Belegen muss das System Unsicherheit oder fehlendes Wissen mitteilen.
- 03
Im tatsächlichen Projekt prüfen
Prüfen Sie Mehrdeutigkeit, Gesprächswechsel, Abbruch und nicht beantwortbare Fragen. Informationen einer fremden Sitzung dürfen nicht durch gemeinsamen Zustand oder falsche Zuordnung in eine Antwort geraten.
Beispiel zur Überprüfung
So lässt sich das Ergebnis prüfen.
Als Projektkontext dient einen Website-Chat für Fragen zu Leistungen und Kontaktwegen. Der folgende Prüffall ist eine Vorlage für diese Aufgabe und kein Bericht über eine Kundenmessung.
- Eingabe / Auslöser
- Eine Frage zu einer belegten Information und eine bewusst unbeantwortbare Frage
- Erwartetes Ergebnis
- Die belegte Antwort verweist auf eine passende Quelle; die unbeantwortbare erzeugt keine erfundene Tatsache.
- Fehler- oder Grenzfall
- Eine Quellenadresse, die existiert, wird nicht automatisch als Beleg für eine beliebige Aussage akzeptiert.
Abnahme und typische Fehler.
- Das System fragt nach oder nennt fehlende Informationen.
- Eine Quellenadresse, die existiert, wird nicht automatisch als Beleg für eine beliebige Aussage akzeptiert.
- Ein Chat ersetzt keine verlässliche Kontaktmöglichkeit und sollte seine Grenzen offen zeigen.
Typischer Fehler
Selbstsicherer Ton ist kein Korrektheitsbeleg.
Quellen und Versionshinweis
Die Anleitung beschreibt das Vorgehen; konkrete APIs, Produktfunktionen und Laufzeitgrenzen müssen zur eingesetzten Version passen. Halten Sie Version, Konfiguration und Prüfergebnis im Projekt fest und vergleichen Sie die verlinkte Dokumentation bei Änderungen.
