KI-Risikoanalyse & Abwehr

SOC-Playbooks

Einsatzpläne für KI-Sicherheitsvorfälle: Prompt Injection, RAG-Vergiftung, OAuth-Missbrauch, Datenoffenlegung.

Playbooks

Getestet

Aktiv

Prompt Injection Response

prompt injection

critical

Sofortmaßnahmen bei erkannter Prompt Injection: Isolation betroffener Eingaben, Session-Pause, Quellenprüfung.

1 Betroffene Eingabe isolieren und Session pausieren

2 Prompt-Vorlagen auf Manipulation prüfen

3 Quellen trennen und Integrität prüfen

4 Benutzer informieren und Vorfall dokumentieren

5 DLP-Regeln für ähnliche Muster aktualisieren

⏱ Response Time: 15 Minuten

Agentic Tool Abuse Response

tool abuse

critical

Sofortmaßnahmen bei Missbrauch von KI-Agenten-Tools: Zugriff entziehen, Aktionen revidieren, Logs sichern.

1 Agenten-Tool-Zugriff entziehen

2 Durchgeführte Aktionen revidieren

3 Tool-Logs und Audit-Trail sichern

4 Berechtigungsmodell überprüfen

5 Agenten auf unbefugte Änderungen scannen

⏱ Response Time: 15 Minuten

RAG Poisoning Investigation

rag poisoning

high

Untersuchung bei Verdacht auf manipulierte RAG-Datenquellen: Quellenidentifikation, Versionierung, Wiederherstellung.

1 Betroffene Datenquelle identifizieren (SharePoint, Confluence, Vektordatenbank)

2 Letzte intakte Version wiederherstellen

3 Änderungshistorie und Berechtigungen prüfen

4 Indikator für zukünftige Erkennung ableiten

⏱ Response Time: 30 Minuten

OAuth/Consent Abuse Response

oauth abuse

high

Reaktion auf missbräuchlich erteilte OAuth-Consents oder kompromittierte Graph-App-Berechtigungen.

1 Betroffene OAuth-Consents widerrufen

2 App-Berechtigungen in Entra ID prüfen

3 Zugriffslog analysieren

4 Consent-Einstellungen verschärfen

⏱ Response Time: 30 Minuten

Sensitive Data Exposure Playbook

data exposure

high

Maßnahmen bei versehentlicher oder böswilliger Extraktion vertraulicher Daten durch KI-Systeme.

1 Betroffene Daten klassifizieren und Zugriff sperren

2 Modell-Output-Logging aktivieren

3 DLP-Trigger-Schwellenwerte anpassen

4 Datenschutzvorfall melden (DSGVO Art. 33)

⏱ Response Time: 1 Stunde

⚔️ KI-Risikoanalyse & Abwehr

Alle Module des Arbeitsraums zur Identifikation, Bewertung und Abwehr von KI-Risiken

⚔️ Bedrohungsprofil 📌 Nutzungsfall-Register 🧠 Agentenrisiko 🔐 Berechtigungsrisiken 🎯 SOC-Playbooks 📁 Nachweisordner 🛡️ Sicherheitskontrollen 🏠 GenAI Hub