Incident Response
KI-Notfallhandbücher
Reaktionspläne für KI-spezifische Sicherheitsvorfälle nach DORA Art. 11-13 und EU AI Act.
Note: Diese Playbooks dienen der Orientierung und müssen an die institutsspezifische Organisation, Meldewege und Eskalationsprozesse angepasst werden.
🔍 Indikatoren
- Ungewöhnliche Transaktionsmuster von bestehenden Kunden
- Video-Ident mit erkennbaren Artefakten (Lippen-Sync, Blinzeln)
- Mehrere Kontoeröffnungen mit ähnlichen synthetischen Merkmalen
🛡️ Sofortmaßnahmen
- Sofortige Sperrung betroffener Konten
- Einleitung erweiterter Identitätsprüfung
- Meldung an BaFin und BSI (24h)
- Benachrichtigung betroffener Kunden
DORA Klassifikation:
Major Incident
AI Act:
Verbotene KI-Praxis
Playbook:
Incident Response Deepfake
🔍 Indikatoren
- Ungewöhnlich lange KI-Outputs mit System-Prompt-Daten
- Wiederholte Fehlversuche mit speziellen Prompt-Patterns
- Ausgabe von internen Konfigurationsdaten
🛡️ Sofortmaßnahmen
- KI-System vom Netz nehmen
- Log-Analyse auf exfiltrierte Daten
- Input-Filter aktualisieren
- Human-in-the-Loop verschärfen
DORA Klassifikation:
Major Incident
AI Act:
Hochrisiko-KI
Playbook:
LLM Security Incident Response
🔍 Indikatoren
- Dringende Zahlungsanweisung per Telefon von Führungskraft
- Leichte Sprach-Artefakte oder untypische Sprechweise
- Aufforderung zur Umgehung von Standardprozessen
🛡️ Sofortmaßnahmen
- Transaktionsstopp für betroffene Konten
- Call-Back-Verfahren über bekannte Nummer einleiten
- Code-Wort-Verifikation
- Mitarbeiter-Sensibilisierung auslösen
DORA Klassifikation:
Major Incident
AI Act:
Verbotene KI-Praxis
Playbook:
Social Engineering Incident Response
🔍 Indikatoren
- KI-generierte Inhalte in Kundenkommunikation ohne Label
- Fehlendes C2PA-Provenance-Metadatum
- Interne Richtlinie zur Kennzeichnung nicht eingehalten
🛡️ Sofortmaßnahmen
- Inhalt kennzeichnen oder entfernen
- Provenance-Nachweis erstellen
- Prozess zur automatischen Kennzeichnung nachschärfen
DORA Klassifikation:
ICT Incident
AI Act:
Transparenzpflicht-Verstoß
Playbook:
Synthetic Content Incident Response
🔍 Indikatoren
- Steigende Ablehnungsquote bei Kreditanträgen
- Verschiebung in Confidence-Scores über Zeit
- Abweichung von validierten Leistungsmetriken
🛡️ Sofortmaßnahmen
- Modell auf vorherige validierte Version zurückrollen
- Ursachenanalyse (Data Drift / Concept Drift)
- Neuvalidierung vor Produktionseinsatz
- Betroffene Entscheidungen reviewen
DORA Klassifikation:
ICT Incident
AI Act:
Hochrisiko-KI
Playbook:
Model Governance Incident Response