Zum Inhalt springen
Resilience Platform Resilience Platform

BaFin AI Guidance

Managing ICT Risks in AI Systems

7 controls for implementing the BaFin guidance on ICT risks in the use of artificial intelligence (December 18, 2025).

KI-Reifegrad-Check

Prüfen Sie den Umsetzungsstand der KI-Governance in Ihrem Institut

Hinweis: Diese Seite stellt eine originäre Zusammenstellung praktischer Umsetzungshinweise für DORA dar. Sie dient ausschließlich der internen Strukturierung und Planung und erhebt keinen Anspruch auf Vollständigkeit oder Rechtsverbindlichkeit. Es wird keine Rechtsberatung angeboten.

Management-Zusammenfassung

  • KI-Systeme sind als IKT-Systeme im Sinne von DORA zu behandeln — die BaFin ordnet sie in den bestehenden Aufsichtsrahmen ein.
  • Shadow-KI (nicht genehmigte KI-Nutzung) muss inventarisiert und in das IKT-Risikomanagement einbezogen werden.
  • Die Geschäftsleitung trägt die Gesamtverantwortung für KI-Risiken.
  • LLM-basierte KI-Assistenten unterliegen spezifischen Risiken: Data Poisoning, Prompt Injection.
  • Cloud-KI-Dienste von CTPPs (AWS, Google, Microsoft) erfordern erweiterte Due-Diligence.
Governance und Organisation (1) IKT-Risikomanagement (1) KI-Bereitstellung und Lebenszyklusmanagement (1) KI-Betrieb und Überwachung (1) Cyber- und Datensicherheit (1) IKT-Drittparteien (1) LLM-Sicherheit (1)
KI-001 defined reviewed
Governance und Organisation

Governance und organisatorische Verantwortung für KI

Die Geschaeftsleitung traegt die Verantwortung für den Einsatz von KI-Systemen. KI-Richtlinien, Rollen und Verantwortlichkeiten müssen klar definiert sein.

Sollzustand
KI-Governance-Rahmenwerk mit Richtlinien, Rollen und Reporting ist im IKT-Risikomanagement verankert.

Umsetzungsschritte

  • KI-Richtlinie mit Verantwortlichkeiten und Risikoappetit erlassen.
  • KI-Beauftragten mit Berichtslinie zur Geschaeftsleitung benennen.
  • Regelmaessiges KI-Reporting an das Leitungsorgan etablieren.
  • Mitarbeiterschulungen zu KI-Risiken durchführen.

Nachweise

  • KI-Richtlinie in aktueller Version
  • Sitzungsprotokolle des KI-Lenkungskreises
ISO: A.5.1 A.5.2 A.5.4
DORA: DORA Art. 4 (Governance), Art. 5 (IKT-Risikomanagement-Rahmenwerk) MaRisk: MaRisk AT 4.3.1, AT 7.2
KI-002 defined reviewed
IKT-Risikomanagement

Integration von KI in den IKT-Risikomanagementrahmen

KI-Systeme sind als IKT-Systeme im Sinne von DORA zu behandeln und in das IKT-Risikoinventar aufzunehmen.

Sollzustand
KI-Systeme sind im IKT-Risikoinventar erfasst, bewertet und werden regelmäßig überprüft.

Umsetzungsschritte

  • Inventarisierung aller KI-Systeme inklusive Shadow-KI (nicht genehmigte Nutzung).
  • Risikobewertung für jedes KI-System nach IKT-Risikokriterien.
  • Dokumentation KI-spezifischer Risiken (Modellrisiken, Datenqualität, Bias).
  • Integration der KI-Risiken in das institutsweite IKT-Risikoinventar.

Nachweise

  • KI-Inventarliste mit Risikobewertung
  • IKT-Risikoinventar mit KI-Eintraegen
ISO: A.5.7 A.5.8 A.8.1
DORA: DORA Art. 5-8 (IKT-Risikomanagement), Art. 6 (IKT-Risikoinventar) MaRisk: MaRisk AT 7.2, BT 3.1
KI-003 initial needs_review
KI-Bereitstellung und Lebenszyklusmanagement

Entwicklung, Test und Change-Management von KI-Systemen

Der Lebenszyklus von KI-Systemen wird durch definierte Prozesse gesteuert.

Sollzustand
Separate Entwicklungs-/Test-/Produktivumgebungen für KI, validierte Modelle, dokumentiertes Change-Management.

Umsetzungsschritte

  • Separate Entwicklungs-, Test- und Produktivumgebungen für KI etablieren.
  • Validierung von KI-Modellen vor Produktivsetzung durchführen.
  • Change-Management-Prozess für Modell-Updates implementieren.
  • Dokumentation von Trainingsdaten, Architektur und Entscheidungslogik.

Nachweise

  • KI-Entwicklungsrichtlinie mit Umgebungsstrategie
  • Modellvalidierungsberichte
ISO: A.8.19 A.8.25 A.8.32
DORA: DORA Art. 7 (IKT-Sicherheitsloesungen), Art. 9 (Change-Management) MaRisk: MaRisk AT 7.2, BT 2.2
KI-004 initial needs_review
KI-Betrieb und Überwachung

Monitoring, Anomalieerkennung und sichere Stilllegung von KI

KI-Systeme im Betrieb werden kontinuierlich überwacht, Anomalien erkannt und Verfahren für die Stilllegung sind definiert.

Sollzustand
KI-Monitoring mit Drift-Erkennung, Alerting und dokumentierte Stilllegungsprozedur.

Umsetzungsschritte

  • Monitoring der KI-Modellperformance auf Anomalien und Drift einrichten.
  • Alerting bei Abweichungen der Modellqualitaet definieren.
  • Stilllegungsprozedur mit sicherer Loeschung von Modellen und Daten.
  • Dokumentation der Betriebsparameter und Metriken.

Nachweise

  • KI-Monitoring-Dashboard mit Metriken
  • Stilllegungsdokumentation
ISO: A.8.15 A.8.16 A.8.31
DORA: DORA Art. 10 (Erkennung), Art. 11 (Wiederherstellung) MaRisk: MaRisk BT 3.2, BT 3.3
KI-005 defined reviewed
Cyber- und Datensicherheit

Datenklassifizierung, Verschlüsselung und Zugriffskontrollen

KI-Daten und -Modelle sind durch angemessene Sicherheitsmaßnahmen geschützt.

Sollzustand
Datenklassifizierung für KI-Systeme durchgeführt, Modelle verschlüsselt, Zugriffe nach Least-Privilege-Prinzip.

Umsetzungsschritte

  • Datenklassifizierung für KI-Trainings-, Validierungs- und Produktionsdaten.
  • Verschlüsselung von KI-Modellen und Modellparametern.
  • Rollenbasierte Zugriffskontrollen für KI-Systeme implementieren.
  • Schutzmaßnahmen für personenbezogene Daten in Trainingsdaten.

Nachweise

  • Datenklassifizierungsmatrix für KI-Systeme
  • Berechtigungskonzept für KI-Plattform
ISO: A.5.15 A.8.2 A.8.11
DORA: DORA Art. 7 (Zugangssicherheit), Art. 9 (Verschlüsselung) MaRisk: MaRisk BT 2.1, BT 2.2
KI-006 defined reviewed
IKT-Drittparteien

IKT-Drittparteienrisikomanagement bei Cloud-KI

Cloud-basierte KI-Dienste werden hinsichtlich Vendor-Lock-in, Datenschutz und DORA-Konformitaet geprüft.

Sollzustand
Due-Diligence für Cloud-KI-Anbieter durchgeführt, Exit-Strategien entwickelt, Verträge DORA-konform.

Umsetzungsschritte

  • Due-Diligence vor Einsatz von Cloud-KI-Diensten durchführen.
  • Exit-Strategie für Cloud-KI mit Datenmigrationsplan entwickeln.
  • Verträge mit KI-Drittanbietern auf DORA-Konformitaet prüfen.
  • Konzentrationsrisiken bei CTPP-KI-Anbietern (AWS, Google, Microsoft) bewerten.

Nachweise

  • Cloud-KI-Due-Diligence-Berichte
  • KI-Vertragsprüfung auf DORA-Konformitaet
ISO: A.5.19 A.5.20 A.5.21
DORA: DORA Art. 25-29 (IKT-Drittparteienrisikomanagement) MaRisk: MaRisk AT 9, BT 4
KI-007 initial needs_review
LLM-Sicherheit

LLM-Angriffsszenarien und Gegenmaßnahmen

LLM-basierte KI-Assistenten sind gegen Data Poisoning, Prompt Injection, Datenabfluss und unautorisierte Nutzung geschützt.

Sollzustand
Eingabevalidierung, Ausgabefilterung und Zugriffsbeschraenkungen für LLM-Systeme implementiert.

Umsetzungsschritte

  • Eingabevalidierung und Sanitization für LLM-Prompts implementieren.
  • Ausgabefilterung auf vertrauliche Daten einrichten.
  • Rollenbasierte Zugriffskontrollen für KI-Assistenten differenzieren.
  • Regelmaessige Red-Teaming-Übungen für KI-Systeme durchführen.

Nachweise

  • LLM-Sicherheitskonzept mit Eingabe-/Ausgabefilterung
  • Red-Teaming-Berichte für KI-Systeme
ISO: A.8.8 A.8.15 A.5.7
DORA: DORA Art. 5-8 (IKT-Risikomanagement), Art. 10 (Erkennung) MaRisk: MaRisk BT 2.2, BT 3.2

ISO 27001 Verbindung

  • A.5.1 Informationssicherheitsrichtlinien und Governance
  • A.5.7 Bedrohungsinformationen (Threat Intelligence)
  • A.5.34 Aufsichtsrechte für Prüfer und Gutachter

ISO/IEC 27001:2022 dient als Kontrollanker und Management-System-Referenz. Die Verbindung zu ISO 27001 unterstützt integrierte Resilienz- und Sicherheitsprogramme.

Reifegrad

  1. 1 Initial

    Ad-hoc-Ansätze, keine formalen Prozesse

  2. 2 Defined

    Formale Prozesse definiert, aber nicht durchgängig umgesetzt

  3. 3 Implemented

    Prozesse vollständig umgesetzt und dokumentiert

  4. 4 Monitored

    Prozesse werden überwacht und gemessen

  5. 5 Optimized

    Kontinuierliche Verbesserung und Anpassung

Note: This content consists of implementation aids and curated guidance. It does not replace legal advice or binding supervisory interpretation.