🟢 Plain Language

Systematisch alle Risiken eines KI-Systems erkennen, bewerten und minimieren — bevor und während es im Einsatz ist.

🔵 Expert Level

AI RAMS nach EU AI Act Art. 9: iteratives System über gesamten Lifecycle. Komponenten: Risikoidentifikation (STRIDE, FMEA), Risikoanalyse (Likelihood × Impact), Risikobewertung (vs. Akzeptanzschwelle), Risikominimierung (technisch + prozessual), Restrisiko-Dokumentation. Mandatory für Hochrisiko-KI, Best Practice für alle anderen.

Definition

AI Risk Management ist die Disziplin, Risiken durch KI-Systeme systematisch zu handhaben — von der Identifikation bis zur kontinuierlichen Überwachung.

Risiko-Lebenszyklus

1. Identifikation  → Welche Risiken existieren?
2. Analyse         → Wie wahrscheinlich? Wie schwerwiegend?
3. Bewertung       → Akzeptabel, mitigierbar, inakzeptabel?
4. Behandlung      → Accept / Avoid / Transfer / Mitigate
5. Monitoring      → Kontinuierliche Überwachung
6. Kommunikation   → Stakeholder informieren

Drei führende Frameworks

Framework	Herausgeber	Fokus	Verbindlichkeit
NIST AI RMF	USA / NIST	Prozess-orientiert, flexibel	Freiwillig
ISO 42001	ISO/IEC	Management-System, zertifizierbar	Freiwillig
EU AI Act Art. 9	EU	Risikokategorien, rechtlich	Pflicht (Hochrisiko)

KI-spezifische Risikokategorien

Technische Risiken: Modell-Fehler, Adversarial Attacks, Datendrift
Ethische Risiken: Bias, Diskriminierung, Fairness-Verletzungen
Operationale Risiken: Systemausfälle, Missbrauch, unbeabsichtigte Nutzung
Rechtliche Risiken: DSGVO-Verstöße, EU AI Act-Non-Compliance
Reputationsrisiken: Vertrauensverlust durch KI-Fehler

IIO-Implementierung

IIO implementiert AI Risk Management durch:

HITL-Gates → Risikominderung durch menschliche Prüfpunkte
Risk Register (queue.yaml) → Dokumentation und Tracking
HITL-BOUNDARY-POLICY.yaml → AUTO/NOTIFY/HITL/BLOCK nach Risikostufe
Maturity-System → Kontinuierliches Monitoring des Reifegrads

Citação

"AI Risk Management." Open Cognition Commons Foundation. https://opencognitioncommons.org/pt/glossary/ai-risk-management. CC-BY 4.0.

Metadados legíveis por máquina

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "AI Risk Management",
  "description": "AI Risk Management umfasst alle organisatorischen Maßnahmen zur systematischen Identifikation, Analyse, Bewertung und Behandlung von Risiken, die durch den Einsatz von KI-Systemen entstehen — für Menschen, Organisationen und die Gesellschaft.\n",
  "url": "https://opencognitioncommons.org/pt/glossary/ai-risk-management",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "AI RM",
    "KI-Risikomanagement"
  ]
}