Definition

AI Governance ist der übergreifende Rahmen, der sicherstellt, dass KI-Systeme einer Organisation die folgenden Eigenschaften besitzen:

Sicher — keine unbeabsichtigten Schäden für Menschen oder Systeme
Fair — keine Diskriminierung aufgrund geschützter Merkmale
Transparent — Entscheidungen sind nachvollziehbar und erklärbar
Rechenschaftspflichtig — klare Verantwortlichkeiten für KI-Entscheidungen
Rechtskonform — EU AI Act, DSGVO, ISO 42001 werden eingehalten

Warum AI Governance?

KI-Systeme treffen Entscheidungen mit realen Konsequenzen: Kreditvergabe, Personalentscheidungen, medizinische Diagnosen, Strafverfolgung. Ohne Governance entstehen systematische Risiken — für Betroffene, Unternehmen und die Gesellschaft.

Regulatorischer Druck: EU AI Act (seit 2024) macht AI Governance für viele Unternehmen zur Rechtspflicht.

Ebenen der AI Governance

1. Strategisch (GF/Vorstand)

AI-Strategie und Risikoappetit
KI-Ethik-Policy
Verantwortlichkeiten (AI Officer, AI Committee)

2. Operativ (IT, Compliance, Fachabteilungen)

Inventar aller KI-Systeme
Risikobewertung und -klassifizierung
HITL-Gates und Eskalationspfade
Monitoring und Audit

3. Technisch (Entwicklung, MLOps)

Bias-Tests und Fairness-Metriken
Explainability-Mechanismen
Model Cards und Dokumentation
Versionierung und Rollback

Kernkomponenten eines AI Governance Frameworks

Komponente	Inhalt
Inventar	Alle KI-Systeme dokumentiert
Risikoklassifizierung	EU AI Act-konforme Einstufung
Governance-Rollen	AI Officer, Risk Owner, Model Owner
HITL-Gates	Menschliche Prüfpunkte in kritischen Prozessen
Audit Trail	Unveränderliche Dokumentation aller Entscheidungen
Incident Response	Reaktionsplan für KI-Vorfälle
Training	AI Literacy für alle Beteiligten (Art. 4 EU AI Act)

Regulatorische Anforderungen (EU)

Anforderung	Rechtsgrundlage	Gilt ab
Risikomanagementsystem	EU AI Act Art. 9	02.08.2026 (Hochrisiko)
Technische Dokumentation	EU AI Act Art. 11	02.08.2026
AI Literacy	EU AI Act Art. 4	02.02.2025
GPAI-Dokumentation	EU AI Act Kap. V	02.08.2025
Automatisierte Entscheidungen	DSGVO Art. 22	Seit 2018
AI Management System	ISO 42001	Freiwillig, zertifizierbar

IIO als AI Governance Framework

Das IIO Framework (Intelligent Infrastructure & Organization) ist eine Open-Source-Referenzimplementierung von AI Governance:

234 Governance Layers — von Strategie bis Infrastruktur
139 Flows — dokumentierte Prozesse mit HITL-Gates
Audit Trail — jede Aktion als Git-Commit mit Evidence
Fail-Closed Default — bei Unsicherheit Stop statt Fortfahren

AI Governance ist der ordnungsgemäße Umgang mit KI-Systemen. Hierbei werden Regeln und Verantwortlichkeiten definiert, um sicherzustellen, dass diese Systeme fair und transparent arbeiten.

Approved

Generated by: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
Generated on: 2026-09-21T00:11:29.079655+00:00
Standard: Plain language ~B1 — not Leichte Sprache / DIN SPEC 33429 easy-read
Reviewed by: zolo · 2026-09-21T00:30:10.463422+00:00

AI Governance ist der strukturelle Rahmen, der die Entwicklung und den Betrieb von KI-Systemen innerhalb einer Organisation reguliert. Er umfasst Regeln, Prozesse, Rollen und Verantwortlichkeiten, um sicherzustellen, dass diese Systeme in einem fair, transparenten und rechtskonformen Kontext arbeiten.

Approved

Generated by: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
Generated on: 2026-09-21T00:11:29.079655+00:00
Standard: Plain language ~B1 — not Leichte Sprache / DIN SPEC 33429 easy-read
Reviewed by: zolo · 2026-09-21T00:30:10.463422+00:00

Citation

"AI Governance." Open Cognition Commons Foundation. https://opencognitioncommons.org/en/glossary/ai-governance. CC-BY 4.0.

Machine-readable metadata

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "AI Governance",
  "description": "AI Governance bezeichnet den systematischen Rahmen aus Regeln, Prozessen, Rollen und Verantwortlichkeiten, der sicherstellt, dass KI-Systeme in einer Organisation sicher, fair, transparent, rechenschaftspflichtig und rechtskonform entwickelt und betrieben werden.\n",
  "url": "https://opencognitioncommons.org/en/glossary/ai-governance",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "AI Governance",
    "KI-Governance",
    "AI-Steuerung"
  ]
}