🟢 Plain Language

KI-Systeme nach dem Start weiter beobachten — um früh zu erkennen wenn etwas nicht funktioniert oder Schaden entsteht.

🔵 Expert Level

Post-Market Monitoring nach EU AI Act Art. 72: Pflicht für Hochrisiko-KI-Provider. Technisch: Logging (Art. 12), Performance-Metriken, Drift-Detection, User-Feedback-Kanäle. Ernsthafter Vorfall → Meldung an Marktüberwachungsbehörde innerhalb 15 Tage (Art. 73). IIO: automatisches Monitoring via VictoriaMetrics + Alertmanager + HITL-Gate für Incident-Eskalation.

Definition

Post-Market Monitoring (PMM) ist die systematische Überwachung eines KI-Systems nach dem Deployment — nicht einmalig, sondern kontinuierlich.

EU AI Act Art. 72 — Anforderungen

Für Hochrisiko-KI-Anbieter:

PMM-Plan erstellen und aktualisieren (vor Markteinführung)
Automatische Datenerhebung (soweit technisch möglich)
Performance-Indikatoren definieren und messen
Serious Incidents melden (Art. 73)
PMM-Erkenntnisse für Verbesserungen nutzen

Was wird überwacht?

Dimension	Metriken	Alarm-Schwelle
Genauigkeit	Prediction accuracy, F1-Score	Signifikanter Drop
Fairness	Demographic Parity, Equal Opp.	Abweichung > 5%
Robustheit	Out-of-distribution detection	Anomalie-Rate
Drift	Data/Model drift	Statistischer Test
Vorfälle	Error rates, user complaints	Spezifisch per Risiko

IIO-Implementierung

VictoriaMetrics (Metriken) → Grafana (Dashboard)
        ↓ Threshold-Überschreitung
Alertmanager → Matrix-Notification
        ↓
HITL-Gate (Investigation)
        ↓
Incident Response Flow

Cytowanie

"Post-Market Monitoring (AI)." Open Cognition Commons Foundation. https://opencognitioncommons.org/pl/glossary/post-market-monitoring. CC-BY 4.0.

Metadane czytelne maszynowo

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "Post-Market Monitoring (AI)",
  "description": "Post-Market Monitoring bezeichnet die systematische Überwachung von KI-Systemen nach ihrer Inbetriebnahme, um Abweichungen, unerwartetes Verhalten und neue Risiken frühzeitig zu erkennen und zu melden.\n",
  "url": "https://opencognitioncommons.org/pl/glossary/post-market-monitoring",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "PMM",
    "Post-Market Monitoring",
    "Post-Market Surveillance"
  ]
}