Ergebnis dieses Guides
Eine Antwort mit überprüfbaren Belegen und klaren Grenzen
Arbeitsumgebung
Eine begrenzte Werkzeugkette mit festen Berechtigungen und Freigaben
Wann ist diese Entscheidung wichtig?
Flüssige Sprache ist kein Beweis. Besonders Namen, Zahlen und Quellenangaben müssen gegen eine verlässliche Grundlage geprüft werden.
Definieren Sie für jeden Werkzeugaufruf zulässige Argumente, Seiteneffekte und Abbruchgrenzen. Das Modell darf Aktionen vorschlagen; die Anwendung prüft und genehmigt deren tatsächliche Ausführung.
Halluzinationen: Schritt für Schritt.
- 01
Vorbereiten
Bestimmen Sie, welche Aussagen belegt werden müssen und welche Informationsquellen zulässig sind.
- 02
In KI-Agenten umsetzen
Lassen Sie Belege mitliefern und prüfen Sie deren tatsächliche Aussage. Bei fehlenden Belegen muss das System Unsicherheit oder fehlendes Wissen mitteilen.
- 03
Im tatsächlichen Projekt prüfen
Testen Sie die vollständige Werkzeugfolge einschließlich fehlerhafter Rückgaben und wiederholter Aufrufe. Relevante externe Änderungen müssen nachvollziehbar und bei Bedarf vor ihrer Ausführung freigegeben sein.
Beispiel zur Überprüfung
So lässt sich das Ergebnis prüfen.
Als Projektkontext dient die Vorbereitung und Einordnung eingehender Anfragen. Der folgende Prüffall ist eine Vorlage für diese Aufgabe und kein Bericht über eine Kundenmessung.
- Eingabe / Auslöser
- Eine Frage zu einer belegten Information und eine bewusst unbeantwortbare Frage
- Erwartetes Ergebnis
- Die belegte Antwort verweist auf eine passende Quelle; die unbeantwortbare erzeugt keine erfundene Tatsache.
- Fehler- oder Grenzfall
- Eine Quellenadresse, die existiert, wird nicht automatisch als Beleg für eine beliebige Aussage akzeptiert.
Abnahme und typische Fehler.
- Das System fragt nach oder nennt fehlende Informationen.
- Eine Quellenadresse, die existiert, wird nicht automatisch als Beleg für eine beliebige Aussage akzeptiert.
- Autonomie braucht begrenzte Rechte, Freigaben und nachvollziehbare Ausführung.
Typischer Fehler
Selbstsicherer Ton ist kein Korrektheitsbeleg.
Quellen und Versionshinweis
Die Anleitung beschreibt das Vorgehen; konkrete APIs, Produktfunktionen und Laufzeitgrenzen müssen zur eingesetzten Version passen. Halten Sie Version, Konfiguration und Prüfergebnis im Projekt fest und vergleichen Sie die verlinkte Dokumentation bei Änderungen.
