AI Security
Prompt Security Guidelines
Sicherheitsrichtlinien und Best Practices für den Umgang mit generativen KI-Systemen — Prompt Security, Data Classification und Human Oversight.
Hinweis: Diese Richtlinien dienen der sicheren Nutzung von KI-Systemen und müssen an die institutsspezifischen Gegebenheiten angepasst werden.
🔒
Keine vertraulichen Daten in Prompts
Niemals personenbezogene Daten, Zugangsdaten, Quellcode oder Geschäftsgeheimnisse in KI-Prompts eingeben.
👁️
Output immer prüfen
KI-Outputs vor Verwendung auf Korrektheit, Vollständigkeit und Vertraulichkeit prüfen (Human-in-the-Loop).
📋
Nutzung dokumentieren
Jede KI-gestützte Entscheidung oder Content-Erstellung muss dokumentiert und gekennzeichnet werden.
✅ Erlaubt (DOs)
- ✅Anonymisierte oder synthetische Daten verwenden
- ✅KI für generische Recherche und Ideenfindung nutzen
- ✅Outputs vor Verwendung durch qualifizierte Person prüfen lassen
- ✅KI-generierte Inhalte klar kennzeichnen (AI Act Art. 50)
- ✅Nur freigegebene KI-Dienste nutzen (Whitelist)
- ✅Prompts und Outputs für Audit-Zwecke dokumentieren
❌ Verboten (DON'Ts)
- ❌Personenbezogene Daten (PII) in Prompts eingeben
- ❌Passwörter, API-Keys oder Zugangsdaten teilen
- ❌Quellcode aus Production-Systemen eingeben
- ❌KI-Outputs ungeprüft als Entscheidungsgrundlage nutzen
- ❌Nicht freigegebene KI-Dienste (Shadow-AI) verwenden
- ❌Vertrauliche Dokumente (Kunden, HR, Recht) hochladen
- ❌KI-Entscheidungen ohne menschliche Aufsicht akzeptieren
Secure Prompt Patterns
Ergänzende Module: AI Governance Registry · GenAI Risk Analysis · AI Security Controls