🟢 Plain Language

AI Risk Management bedeutet: AI Risk Management umfasst alle organisatorischen Maßnahmen zur systematischen Identifikation, Analyse, Bewertung und Behandlung von Risiken, die durch den Einsatz von KI-Systemen entstehen — für Menschen, Organisationen und die Gesellschaft. Das ist wichtig, weil KI-Systeme heute überall eingesetzt werden und Regeln brauchen, damit sie sicher und fair funktionieren.

🔵 Expert Level

AI Risk Management umfasst alle organisatorischen Maßnahmen zur systematischen Identifikation, Analyse, Bewertung und Behandlung von Risiken, die durch den Einsatz von KI-Systemen entstehen — für Menschen, Organisationen und die Gesellschaft. [IIO Compliance] EU AI Act Article 9 — Risk Management System: high-risk AI systems must have continuous risk management covering identification, estimation, evaluation, and mitigation. IIO: layer-risk-management handles risk registry, risk scoring (P1-P4), mitigation tracking. HITL gates enforce human oversight for [NIST AI RMF] or hardware systems and data. Page 21 NIST AI 100-1 AI RMF 1.0 GOVERN is a cross-cutting function that is infused throughout AI risk management and enables the other functions of the process. Aspects of GOVERN, especially those related to compliance or evaluation, should be integrated into each of t [IIO Compliance] EU AI Act (Regulation 2024/1689): first comprehensive AI law globally, in force August 2024. Risk-based approach: unacceptable risk (prohibited), high risk (Annex III, strict requirements), limited risk (transparency obligations), minimal risk (no requirements). IIO focuses on Article 4 (AI Literacy

Definition

AI Risk Management ist die Disziplin, Risiken durch KI-Systeme systematisch zu handhaben — von der Identifikation bis zur kontinuierlichen Überwachung.

Risiko-Lebenszyklus

1. Identifikation  → Welche Risiken existieren?
2. Analyse         → Wie wahrscheinlich? Wie schwerwiegend?
3. Bewertung       → Akzeptabel, mitigierbar, inakzeptabel?
4. Behandlung      → Accept / Avoid / Transfer / Mitigate
5. Monitoring      → Kontinuierliche Überwachung
6. Kommunikation   → Stakeholder informieren

Drei führende Frameworks

Framework	Herausgeber	Fokus	Verbindlichkeit
NIST AI RMF	USA / NIST	Prozess-orientiert, flexibel	Freiwillig
ISO 42001	ISO/IEC	Management-System, zertifizierbar	Freiwillig
EU AI Act Art. 9	EU	Risikokategorien, rechtlich	Pflicht (Hochrisiko)

KI-spezifische Risikokategorien

Technische Risiken: Modell-Fehler, Adversarial Attacks, Datendrift
Ethische Risiken: Bias, Diskriminierung, Fairness-Verletzungen
Operationale Risiken: Systemausfälle, Missbrauch, unbeabsichtigte Nutzung
Rechtliche Risiken: DSGVO-Verstöße, EU AI Act-Non-Compliance
Reputationsrisiken: Vertrauensverlust durch KI-Fehler

IIO-Implementierung

IIO implementiert AI Risk Management durch:

HITL-Gates → Risikominderung durch menschliche Prüfpunkte
Risk Register (queue.yaml) → Dokumentation und Tracking
HITL-BOUNDARY-POLICY.yaml → AUTO/NOTIFY/HITL/BLOCK nach Risikostufe
Maturity-System → Kontinuierliches Monitoring des Reifegrads

Citation

"AI 위험 관리." Open Cognition Commons Foundation. https://opencognitioncommons.org/ko/glossary/ai-risk-management. CC-BY 4.0.

Machine-readable metadata

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "AI 위험 관리",
  "description": "AI Risk Management umfasst alle organisatorischen Maßnahmen zur systematischen Identifikation, Analyse, Bewertung und Behandlung von Risiken, die durch den Einsatz von KI-Systemen entstehen — für Menschen, Organisationen und die Gesellschaft.\n",
  "url": "https://opencognitioncommons.org/ko/glossary/ai-risk-management",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "AI RM",
    "KI-Risikomanagement"
  ]
}