GenAI Risk Management
GenAI Risk Analysis
Systematische Risikoanalyse aller KI-Angriffsvektoren mit Erkennungs-, Behandlungs- und Reaktionsmaßnahmen.
12
Angriffsvektoren
5
Kritisch
5
Hoch
2
Mittel
8.2
Ø CVSS
🔍 Erkennung
🛡️ Prävention
⚡ Reaktion
Keine Vektoren gefunden.
Risikomatrix — Eintrittswahrscheinlichkeit × Auswirkung
| Auswirkung ↓ \ Wahrscheinlichkeit → | Niedrig | Mittel | Hoch | Sehr hoch |
|---|---|---|---|---|
| Niedrig | ||||
| Mittel |
GEN-AV-007
GEN-AV-010
|
|||
| Hoch |
GEN-AV-005
GEN-AV-011
|
GEN-AV-003
|
GEN-AV-001
|
|
| Kritisch |
GEN-AV-006
GEN-AV-012
|
GEN-AV-004
|
GEN-AV-002
GEN-AV-008
GEN-AV-009
|
1
Wahrscheinlichkeit: Sehr hoch
6
Wahrscheinlichkeit: Hoch
3
Wahrscheinlichkeit: Mittel
2
Wahrscheinlichkeit: Niedrig
Maßnahmenübersicht nach Angriffs-Tier
Tier 1: Prompt & Input-Angriffe
Input-Sanitization, robuste System-Prompts, Red-Teaming, Jailbreak-Detektionsmodelle
Tier 2: Datenexfiltration & Privatsphäre
Output-Encoding, CSP, Differential Privacy, Data-Classification, Rate-Limiting
Tier 3: Model & Supply Chain
Model-Signing, SBOM, Lieferanten-Audit, Token-Budget, Queue-Management
Tier 4: Deepfake & Synthetische Medien
Liveness-Detection, Multi-Faktor-Auth, C2PA-Provenance, Watermarking
Tier 5: Adversarial & Evasion
Adversarial Training, Ensemble-Methoden, Datenqualitäts-Monitoring
Priorisierte Behandlung nach Risikostufe
Datenexfiltration via Format-Exploitation
GEN-AV-004 · Tier 2 · AML.T0024 - Exfiltration via Generative AI
Deepfake-Identitätsbetrug (Audio/Video)
GEN-AV-008 · Tier 4 · AML.T0025 - Generative AI Social Engineering
Indirect Prompt Injection (RAG-Poisoning)
GEN-AV-002 · Tier 1 · AML.T0020 - LLM Prompt Injection
Model Poisoning via kompromittierte Drittanbieter-Modelle
GEN-AV-006 · Tier 3 · AML.T0018 - Backdoor ML Model
Synthetic Voice CEO-Fraud (Vishing 2.0)
GEN-AV-009 · Tier 4 · AML.T0025 - Generative AI Social Engineering
Direct Prompt Injection
GEN-AV-001 · Tier 1 · AML.T0020 - LLM Prompt Injection
Data Poisoning von KI-Überwachungssystemen
GEN-AV-012 · Tier 5 · AML.T0019 - Poison Training Data
Jailbreak / Role-Play Escape
GEN-AV-003 · Tier 1 · AML.T0020 - LLM Prompt Injection
Adversarial Evasion von KI-Detektionssystemen
GEN-AV-011 · Tier 5 · AML.T0014 - Evasion
Training Data Extraction (Membership Inference)
GEN-AV-005 · Tier 2 · AML.T0024 - Model Inversion
Model Denial of Service (Token-Exhaustion)
GEN-AV-007 · Tier 3 · AML.T0029 - Denial of Service
Synthetic Content ohne AI-Act-Kennzeichnung
GEN-AV-010 · Tier 4 · —
GenAI Risk Management Cycle
1. Identifikation
Inventarisierung aller KI-Systeme und GenAI-Nutzungen
2. Bewertung
Risikoanalyse je Vektor: CVSS, MITRE ATLAS, Eintrittswahrscheinlichkeit
3. Behandlung
Präventions- und Erkennungsmaßnahmen je Risikostufe
4. Überwachung
Kontinuierliches Monitoring auf neue Angriffsvektoren und Drift
5. Reaktion
Incident Response bei GenAI-Vorfällen, DORA Art. 17-18
6. Nachbesserung
Lessons Learned, Modell-Updates, Prozessanpassungen
DORA & AI Act Compliance Map
IKT-Risikomanagement für KI
Erkennung von GenAI-Angriffen
Reaktion auf KI-Vorfälle
BCM für KI-Ausfälle
KI-Vorfallmeldung
LLM Pentesting
KI-Drittanbieter-Risiken
Verbotene KI-Praktiken
Menschliche Aufsicht
Transparenz für KI-Inhalte