Regeln und Prozesse die sicherstellen dass KI-Systeme fair und sicher eingesetzt werden. Wie Verkehrsregeln fuer KI.
AI Governance als governance-as-code: Premises als invariante Policies, HITL-Gates als formale Kontrollpunkte, Audit Trail via Git, Self-Assessment via YAML. Implementiert NIST AI RMF GOVERN-Funktion und ISO 42001 Abschnitt 5.
Definition
AI Governance ist der übergreifende Rahmen, der sicherstellt, dass KI-Systeme einer Organisation die folgenden Eigenschaften besitzen:
- Sicher — keine unbeabsichtigten Schäden für Menschen oder Systeme
- Fair — keine Diskriminierung aufgrund geschützter Merkmale
- Transparent — Entscheidungen sind nachvollziehbar und erklärbar
- Rechenschaftspflichtig — klare Verantwortlichkeiten für KI-Entscheidungen
- Rechtskonform — EU AI Act, DSGVO, ISO 42001 werden eingehalten
Warum AI Governance?
KI-Systeme treffen Entscheidungen mit realen Konsequenzen: Kreditvergabe, Personalentscheidungen, medizinische Diagnosen, Strafverfolgung. Ohne Governance entstehen systematische Risiken — für Betroffene, Unternehmen und die Gesellschaft.
Regulatorischer Druck: EU AI Act (seit 2024) macht AI Governance für viele Unternehmen zur Rechtspflicht.
Ebenen der AI Governance
1. Strategisch (GF/Vorstand)
- AI-Strategie und Risikoappetit
- KI-Ethik-Policy
- Verantwortlichkeiten (AI Officer, AI Committee)
2. Operativ (IT, Compliance, Fachabteilungen)
- Inventar aller KI-Systeme
- Risikobewertung und -klassifizierung
- HITL-Gates und Eskalationspfade
- Monitoring und Audit
3. Technisch (Entwicklung, MLOps)
- Bias-Tests und Fairness-Metriken
- Explainability-Mechanismen
- Model Cards und Dokumentation
- Versionierung und Rollback
Kernkomponenten eines AI Governance Frameworks
| Komponente | Inhalt |
|---|---|
| Inventar | Alle KI-Systeme dokumentiert |
| Risikoklassifizierung | EU AI Act-konforme Einstufung |
| Governance-Rollen | AI Officer, Risk Owner, Model Owner |
| HITL-Gates | Menschliche Prüfpunkte in kritischen Prozessen |
| Audit Trail | Unveränderliche Dokumentation aller Entscheidungen |
| Incident Response | Reaktionsplan für KI-Vorfälle |
| Training | AI Literacy für alle Beteiligten (Art. 4 EU AI Act) |
Regulatorische Anforderungen (EU)
| Anforderung | Rechtsgrundlage | Gilt ab |
|---|---|---|
| Risikomanagementsystem | EU AI Act Art. 9 | 02.08.2026 (Hochrisiko) |
| Technische Dokumentation | EU AI Act Art. 11 | 02.08.2026 |
| AI Literacy | EU AI Act Art. 4 | 02.02.2025 |
| GPAI-Dokumentation | EU AI Act Kap. V | 02.08.2025 |
| Automatisierte Entscheidungen | DSGVO Art. 22 | Seit 2018 |
| AI Management System | ISO 42001 | Freiwillig, zertifizierbar |
IIO als AI Governance Framework
Das IIO Framework (Intelligent Organization Infrastructure) ist eine Open-Source-Referenzimplementierung von AI Governance:
- 234 Governance Layers — von Strategie bis Infrastruktur
- 139 Flows — dokumentierte Prozesse mit HITL-Gates
- Audit Trail — jede Aktion als Git-Commit mit Evidence
- Fail-Closed Default — bei Unsicherheit Stop statt Fortfahren
Citação
"AI Governance." Open Cognition Commons Foundation. https://opencognitioncommons.org/pt/glossary/ai-governance. CC-BY 4.0. Metadados legíveis por máquina
{
"@context": "https://schema.org",
"@type": "DefinedTerm",
"name": "AI Governance",
"description": "AI Governance bezeichnet den systematischen Rahmen aus Regeln, Prozessen, Rollen und Verantwortlichkeiten, der sicherstellt, dass KI-Systeme in einer Organisation sicher, fair, transparent, rechenschaftspflichtig und rechtskonform entwickelt und betrieben werden.\n",
"url": "https://opencognitioncommons.org/pt/glossary/ai-governance",
"license": "https://creativecommons.org/licenses/by/4.0/",
"alternateName": [
"AI Governance",
"KI-Governance",
"AI-Steuerung"
]
}