🟢 Plain Language

Regeln und Prozesse die sicherstellen dass KI-Systeme fair und sicher eingesetzt werden. Wie Verkehrsregeln fuer KI.

🔵 Expert Level

AI Governance als governance-as-code: Premises als invariante Policies, HITL-Gates als formale Kontrollpunkte, Audit Trail via Git, Self-Assessment via YAML. Implementiert NIST AI RMF GOVERN-Funktion und ISO 42001 Abschnitt 5.

Definition

AI Governance ist der übergreifende Rahmen, der sicherstellt, dass KI-Systeme einer Organisation die folgenden Eigenschaften besitzen:

Sicher — keine unbeabsichtigten Schäden für Menschen oder Systeme
Fair — keine Diskriminierung aufgrund geschützter Merkmale
Transparent — Entscheidungen sind nachvollziehbar und erklärbar
Rechenschaftspflichtig — klare Verantwortlichkeiten für KI-Entscheidungen
Rechtskonform — EU AI Act, DSGVO, ISO 42001 werden eingehalten

Warum AI Governance?

KI-Systeme treffen Entscheidungen mit realen Konsequenzen: Kreditvergabe, Personalentscheidungen, medizinische Diagnosen, Strafverfolgung. Ohne Governance entstehen systematische Risiken — für Betroffene, Unternehmen und die Gesellschaft.

Regulatorischer Druck: EU AI Act (seit 2024) macht AI Governance für viele Unternehmen zur Rechtspflicht.

Ebenen der AI Governance

1. Strategisch (GF/Vorstand)

AI-Strategie und Risikoappetit
KI-Ethik-Policy
Verantwortlichkeiten (AI Officer, AI Committee)

2. Operativ (IT, Compliance, Fachabteilungen)

Inventar aller KI-Systeme
Risikobewertung und -klassifizierung
HITL-Gates und Eskalationspfade
Monitoring und Audit

3. Technisch (Entwicklung, MLOps)

Bias-Tests und Fairness-Metriken
Explainability-Mechanismen
Model Cards und Dokumentation
Versionierung und Rollback

Kernkomponenten eines AI Governance Frameworks

Komponente	Inhalt
Inventar	Alle KI-Systeme dokumentiert
Risikoklassifizierung	EU AI Act-konforme Einstufung
Governance-Rollen	AI Officer, Risk Owner, Model Owner
HITL-Gates	Menschliche Prüfpunkte in kritischen Prozessen
Audit Trail	Unveränderliche Dokumentation aller Entscheidungen
Incident Response	Reaktionsplan für KI-Vorfälle
Training	AI Literacy für alle Beteiligten (Art. 4 EU AI Act)

Regulatorische Anforderungen (EU)

Anforderung	Rechtsgrundlage	Gilt ab
Risikomanagementsystem	EU AI Act Art. 9	02.08.2026 (Hochrisiko)
Technische Dokumentation	EU AI Act Art. 11	02.08.2026
AI Literacy	EU AI Act Art. 4	02.02.2025
GPAI-Dokumentation	EU AI Act Kap. V	02.08.2025
Automatisierte Entscheidungen	DSGVO Art. 22	Seit 2018
AI Management System	ISO 42001	Freiwillig, zertifizierbar

IIO als AI Governance Framework

Das IIO Framework (Intelligent Organization Infrastructure) ist eine Open-Source-Referenzimplementierung von AI Governance:

234 Governance Layers — von Strategie bis Infrastruktur
139 Flows — dokumentierte Prozesse mit HITL-Gates
Audit Trail — jede Aktion als Git-Commit mit Evidence
Fail-Closed Default — bei Unsicherheit Stop statt Fortfahren

引用

"AI Governance." Open Cognition Commons Foundation. https://opencognitioncommons.org/ja/glossary/ai-governance. CC-BY 4.0.

機械可読メタデータ

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "AI Governance",
  "description": "AI Governance bezeichnet den systematischen Rahmen aus Regeln, Prozessen, Rollen und Verantwortlichkeiten, der sicherstellt, dass KI-Systeme in einer Organisation sicher, fair, transparent, rechenschaftspflichtig und rechtskonform entwickelt und betrieben werden.\n",
  "url": "https://opencognitioncommons.org/ja/glossary/ai-governance",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "AI Governance",
    "KI-Governance",
    "AI-Steuerung"
  ]
}