Definition

AI Incident Response ist der Prozess, auf KI-Vorfälle strukturiert zu reagieren — von der ersten Erkennung bis zur vollständigen Behebung und Prävention.

Incident-Klassifizierung

Schwere	Beschreibung	Beispiele	Reaktionszeit
P0 — Kritisch	Unmittelbarer Schaden für Menschen	KI trifft diskriminierende Entscheidungen über Personen	Sofort
P1 — Hoch	Regulatorisch meldepflichtig	Datenleck, schwerwiegender Bias	< 24h
P2 — Mittel	Signifikante Leistungsverschlechterung	Modell-Drift, erhöhte Fehlerrate	< 72h
P3 — Niedrig	Kleinere Abweichungen	Einzelne falsche Outputs	Nächster Sprint

EU AI Act Art. 73 — Meldepflicht

Für Hochrisiko-KI und systemische GPAI-Modelle:

Was melden: Schwerwiegende Vorfälle (Körperschaden, irreversibler Schaden, Straftaten)
An wen: Nationale Marktaufsichtsbehörde
Wann: Unmittelbar nach Bekanntwerden
Frist: 15 Werktage für vollständigen Bericht

Response-Workflow

1. Erkennung     → Monitoring-Alert / User-Report
2. Triage        → Klassifizierung P0-P3
3. Containment   → System stoppen / HITL aktivieren
4. Untersuchung  → Root-Cause-Analysis
5. Behebung      → Fix deployen
6. Meldung       → Regulatoren informieren (wenn P0/P1)
7. Post-mortem   → Lessons Learned dokumentieren
8. Prävention    → Guards implementieren

IIO Incident Response

IIO-Implementierung via Service Operations Layer (SOL):

Incidents in iio/specs/services/incidents/ dokumentiert
OTRS-Integration für Ticket-Management
Matrix-Alerts für sofortige Notification
HITL-Gate für Incident-Genehmigung (BLOCK bis Investigation)

Wenn ein AI-System einen Fehler macht, wird AI Incident Response aktiviert. Es hilft, das Problem zu erkennen und zu beheben.

Freigegeben

Erzeugt von: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
Erzeugt am: 2026-09-21T00:11:29.079655+00:00
Norm: Einfache Sprache ~B1 — nicht Leichte Sprache (DIN SPEC 33429)
Geprüft von: zolo · 2026-09-21T00:30:10.463422+00:00

AI Incident Response umfasst den systematischen Umgang mit Fehlern und Unregelmäßigkeiten in KI-Systemen, indem es Vorfälle wie unerwartete Ausgaben, Sicherheitsprobleme, Verzerrungen im Bias sowie regulatorisch relevante Ereignisse erkennt, klassifiziert, untersucht und behebt.

Freigegeben

Erzeugt von: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
Erzeugt am: 2026-09-21T00:11:29.079655+00:00
Norm: Einfache Sprache ~B1 — nicht Leichte Sprache (DIN SPEC 33429)
Geprüft von: zolo · 2026-09-21T00:30:10.463422+00:00

Zitierung

"AI Incident Response." Open Cognition Commons Foundation. https://opencognitioncommons.org/glossar/ai-incident-response. CC-BY 4.0.

Maschinenlesbare Metadaten

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "AI Incident Response",
  "description": "AI Incident Response bezeichnet den strukturierten Prozess zur Erkennung, Klassifizierung, Untersuchung und Behebung von Vorfällen bei KI-Systemen — einschließlich unerwarteter Ausgaben, Sicherheitsverletzungen, Bias-Vorfällen und regulatorisch meldepflichtigen Ereignissen.\n",
  "url": "https://opencognitioncommons.org/glossar/ai-incident-response",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "AI IR",
    "KI-Incident-Response",
    "AI Incident Management"
  ]
}