🟢 Plain Language

Regeln und Prozesse für das Management von KI-Modellen — von der Entwicklung bis zur Abschaltung.

🔵 Expert Level

Model Governance umfasst: Model Registry (Versionierung), Model Cards (Dokumentation), A/B-Testing, Drift-Monitoring, Deprecation Policy. ISO 42001 Abschnitt 8.4 verlangt Lifecycle-Dokumentation. Integriert mit MLOps-Stack.

Definition

Model Governance ist das Gesamtpaket an Kontrollen über KI-Modelle: wer sie nutzen darf, wie sie getestet werden, was dokumentiert sein muss und wie sie außer Betrieb genommen werden.

Model Lifecycle

Design → Development → Validation → Staging → Production
                                                    ↓
Monitoring ──────────────────────────────── Decommission

Governance greift in jeder Phase:

Phase	Governance-Maßnahme
Design	Zweckdefinition, Risikobewertung, Daten-Governance
Development	Bias-Tests, Fairness-Metriken, Audit Trail
Validation	Unabhängige Prüfung, Performance-Benchmarks
Deployment	HITL-Gate, Rollout-Plan, Fallback
Production	Kontinuierliches Monitoring, Drift-Detection
Decommission	Daten-Löschung, Dokumentation, Nachfolge

Governance-Artefakte

Vollständige Model Governance erfordert:

Model Card — Zweck, Grenzen, Bias-Assessment, Metriken
Datasheets for Datasets — Trainingsdaten-Dokumentation
Risk Register — Identifizierte Risiken + Behandlung
Audit Trail — Alle Modell-Entscheidungen nachvollziehbar
Deployment Runbook — Rollout + Rollback Prozeduren
Monitoring Dashboard — Performance + Fairness-Metriken live

EU AI Act Anforderungen

Für Hochrisiko-KI nach EU AI Act:

Art. 9: Risikomanagementsystem mit Modell-Lifecycle-Abdeckung
Art. 10: Daten-Governance-Anforderungen
Art. 12: Logs + Audit Trail
Art. 17: Qualitätsmanagementsystem

IIO Model Governance

IIO implementiert Model Governance für den AI Hub:

Modell-Inventar in fleet-registry.yaml
Deployment via HITL-Gate (gate.aihub-model-deploy)
Monitoring via VictoriaMetrics + Grafana
Model Cards als YAML in adapter-registry.yaml

Citação

"Model Governance." Open Cognition Commons Foundation. https://opencognitioncommons.org/pt/glossary/model-governance. CC-BY 4.0.

Metadados legíveis por máquina

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "Model Governance",
  "description": "Model Governance bezeichnet das strukturierte Rahmenwerk aus Richtlinien, Prozessen und Kontrollen für KI-Modelle über ihren gesamten Lebenszyklus: Auswahl, Training, Validierung, Deployment, Monitoring, Aktualisierung und Rückzug.\n",
  "url": "https://opencognitioncommons.org/pt/glossary/model-governance",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Model Governance",
    "AI Model Governance"
  ]
}