Crisis Simulation
AI Cyber Crisis Simulation Workspace
Fünf realistische KI-Cyber-Krisenszenarien für die Vorbereitung von Vorstand, Krisenstab und Incident-Response-Teams.
3
Kritische Szenarien
2
Hohe Szenarien
20
Reaktionsmassnahmen
5
Szenarien
Angreifer nutzen KI-generierte Audio/Video-Deepfakes des Vorstandsvorsitzenden, um eine dringende Überweisung im Millionenbereich anzuordnen. Die deepfake-generierte Anweisung umgeht bestehende Sicherheitskontrollen.
Erkennungsherausforderung
Deepfakes werden von bestehenden Authentifizierungsverfahren nicht erkannt
Betroffene Rollen
Reaktionsmassnahmen
- • Sofortige Transaktionsstopp
- • Deepfake-Analyse durch Forensik-Team
- • Kommunikationsprotokoll-Aktivierung
- • Aufsichtsmeldung nach DORA Art. 19
Lessons Learned
- • Multifaktor-Autorisierung für Transaktionen
- • Deepfake-Erkennung einführen
- • Over-the-Phone-Validierungsverfahren überarbeiten
Ein KI-gesteuerter Angriffsagent identifiziert automatisch Schwachstellen in der Netzwerkarchitektur, bewegt sich lateral und exfiltriert Daten. Der Angriff passt sich in Echtzeit an Abwehrmassnahmen an.
Erkennungsherausforderung
Angriff variiert ständig und umgeht signaturbasierte Erkennung
Betroffene Rollen
Reaktionsmassnahmen
- • Netzwerksegmentierung verschärfen
- • KI-gestützte Gegenmassnahmen aktivieren
- • Betroffene Systeme isolieren
- • DORA-Vorfallmeldung vorbereiten
Lessons Learned
- • KI-Abwehrfähigkeiten des SOC ausbauen
- • Automatisierte Gegenmassnahmen implementieren
- • Übungen mit KI-Angriffsszenarien durchführen
Ein Angreifer kompromittiert ein öffentlich verfügbares KI-Basismodell (z.B. über PyPI-Paket oder HuggingFace-Modell), das in mehreren kundenkritischen Anwendungen verwendet wird. Das kompromittierte Modell führt Hintertüren und Datenexfiltration durch.
Erkennungsherausforderung
Modellkompromittierung ist ohne spezialisierte Tools nicht erkennbar
Betroffene Rollen
Reaktionsmassnahmen
- • Sofortige Modellnutzung stoppen
- • SBOM für betroffene Anwendungen erstellen
- • Alternativmodelle bereitstellen
- • Betroffene Kunden informieren
Lessons Learned
- • KI-Modell-Validierung vor Nutzung
- • Integritätsprüfung von Modellgewichten
- • Diversifizierung der KI-Modellbezugsquellen
Ein Massenangriff nutzt Prompt-Injection-Techniken, um die KI-API des Instituts zu manipulieren. Angreifer extrahieren vertrauliche Informationen, die im RAG-System hinterlegt sind, und umgehen Content-Filter.
Erkennungsherausforderung
Prompt-Injection-Versuche sind von legitimen Anfragen schwer unterscheidbar
Betroffene Rollen
Reaktionsmassnahmen
- • API-Zugriff temporär einschränken
- • Injection-Muster analysieren
- • Input-Validierung verschärfen
- • Datenschutzverletzung prüfen
Lessons Learned
- • Erweiterte Input-Validierung für KI-APIs
- • RAG-Sicherheitsarchitektur überarbeiten
- • Regelmässige Red-Team-Übungen für KI-APIs
Ein Angreifer manipuliert gezielt Trainingsdaten des Kreditentscheidungsmodells, um systemisch fehlerhafte Entscheidungen herbeizuführen. Die Manipulation bleibt während des Trainings unentdeckt.
Erkennungsherausforderung
Poisoning ist während des Trainingsprozesses schwer zu erkennen
Betroffene Rollen
Reaktionsmassnahmen
- • Modell sofort ausser Betrieb nehmen
- • Validierungsdatensatz auf Manipulation prüfen
- • Entscheidungshistorie analysieren
- • Aufsichtsbehörde informieren
Lessons Learned
- • Datenherkunftsnachweis für Trainingsdaten
- • Regelmässige Modellintegritätsprüfungen
- • Redundante Entscheidungsprozesse
KI-Cyber-Krisen üben?
Vereinbaren Sie ein Pilotgespräch für den AI Cyber Crisis Simulation Workspace.
Pilotgespräch anfragen