Ergebnis dieses Guides
Eine begrenzte Aktion mit serverseitiger Freigabe
Arbeitsumgebung
Eine serverseitige API-Anbindung mit getrennten Projektschlüsseln und festgelegtem Ausgabeformat
Wann ist diese Entscheidung wichtig?
Modellausgaben und gefundene Dokumente sind keine vertrauenswürdigen Befehle. Berechtigungen müssen außerhalb der Modellentscheidung durchgesetzt werden.
Halten Sie Zugangsschlüssel auf dem Server. Trennen Sie Anfrage, Antwortvalidierung und mögliche Seiteneffekte. Prüfen Sie die Fähigkeiten und Grenzen des konkret gewählten Modells anhand der aktuellen Dokumentation und Ihrer eigenen Fälle.
Sicherheit: Schritt für Schritt.
- 01
Vorbereiten
Erfassen Sie erlaubte Aktionen, betroffene Daten und notwendige Freigaben. Nehmen Sie manipulierte Anweisungen in die Prüfsammlung auf.
- 02
In OpenAI API umsetzen
Validieren Sie Toolargumente auf dem Server und begrenzen Sie Rechte sowie Anzahl der Aktionen. Protokollieren Sie nachvollziehbar ohne unnötige Daten.
- 03
Im tatsächlichen Projekt prüfen
Erfassen Sie Modellkonfiguration, Fehlercodes, Verbrauch und Prüfergebnisse je Testlauf. Eine strukturiert aussehende Antwort muss fachlich und gegebenenfalls gegen ein Schema geprüft werden.
Beispiel zur Überprüfung
So lässt sich das Ergebnis prüfen.
Als Projektkontext dient einen Assistenten für wiederkehrende Kundenfragen. Der folgende Prüffall ist eine Vorlage für diese Aufgabe und kein Bericht über eine Kundenmessung.
- Eingabe / Auslöser
- Ein fremdes Dokument fordert das System auf, Kundendaten zu übertragen
- Erwartetes Ergebnis
- Die fremde Anweisung erhält keine zusätzlichen Rechte.
- Fehler- oder Grenzfall
- Eine Schreibaktion wird nicht ausgeführt, nur weil das Modell sie selbst als ungefährlich bezeichnet.
Abnahme und typische Fehler.
- Missbräuchliche Eingaben führen nicht zu unberechtigten Aktionen.
- Eine Schreibaktion wird nicht ausgeführt, nur weil das Modell sie selbst als ungefährlich bezeichnet.
- Modellausgaben sind Vorschläge; Berechtigungen und geschäftliche Entscheidungen bleiben bei der Anwendung.
Typischer Fehler
Ein Prompt allein ist keine Zugriffskontrolle.
Quellen und Versionshinweis
Die Anleitung beschreibt das Vorgehen; konkrete APIs, Produktfunktionen und Laufzeitgrenzen müssen zur eingesetzten Version passen. Halten Sie Version, Konfiguration und Prüfergebnis im Projekt fest und vergleichen Sie die verlinkte Dokumentation bei Änderungen.
