AI Governance
AI Explainability & Transparency
Erklärbarkeit, Transparenz und menschliche Aufsicht für KI-Entscheidungen nach EU AI Act Art. 14-15 und DORA Art. 5-8.
📢 Transparenz
Jede KI-Interaktion muss als solche erkennbar sein. Nutzer haben das Recht zu wissen, ob sie mit einer KI interagieren (AI Act Art. 50).
🔍 Erklärbarkeit
KI-Entscheidungen müssen nachvollziehbar und erklärbar sein. Für Hochrisiko-KI-Systeme ist eine menschliche Aufsicht zwingend erforderlich (AI Act Art. 14).
⚖️ Fairness
KI-Systeme müssen auf Bias und Diskriminierung geprüft werden. Regelmäßige Fairness-Audits sind für Hochrisiko-Systeme verpflichtend.
Erklärbarkeitsstufen (Explainability Levels)
✅ KI-Kennzeichnung
Alle KI-generierten Inhalte werden als solche gekennzeichnet (Label, Disclaimer, Metadaten).
✅ Quellenangabe
Bei RAG-basierten Antworten werden die zugrunde liegenden Quellen angegeben.
✅ Confidence-Scoring
Jede KI-Antwort enthält einen Confidence-Score (0-100%), der die Sicherheit der Antwort bewertet.
✅ Begründungspflicht
KI-Entscheidungen werden mit einer nachvollziehbaren Begründung versehen (z.B. "Diese Entscheidung basiert auf Regel XYZ").
✅ Feature-Attribution
Welche Eingabefaktoren haben zur Entscheidung beigetragen? (z.B. SHAP, LIME).
✅ Counterfactual Explanations
"Was wäre passiert, wenn Eingabe X anders gewesen wäre?" — für nachvollziehbare Entscheidungen.
✅ Bias-Monitoring
Kontinuierliche Überwachung auf Verzerrungen in KI-Entscheidungen über verschiedene demografische Gruppen.
👤 Human Oversight Matrix (AI Act Art. 14)
| KI-System | Aufsichtsform | Eingriffsmöglichkeit | Verantwortlich |
|---|---|---|---|
| Agent-Orchestrierung (CTO/CEO) | Human-in-the-Loop | Output-Review vor Ausführung | CTO |
| RAG-Compliance-System | Human-on-the-Loop | Stichprobenartige Prüfung | Compliance |
| Fraud-Detection-Modell | Human-in-the-Loop | Freigabe bei Grenzfällen | Security Audit |
| Content-Generierung (GPT-4o) | Human-in-the-Loop | Review vor Veröffentlichung | Content Quality |
| Synthetic Media Detector | Human-on-the-Loop | Automatisch + Stichprobe | IT-Sicherheit |
Verwandte Module: AI Model Inventory · AI Governance Registry · GenAI Risk Analysis