Definition

AI Risk Management ist die Disziplin, Risiken durch KI-Systeme systematisch zu handhaben — von der Identifikation bis zur kontinuierlichen Überwachung.

Risiko-Lebenszyklus

1. Identifikation  → Welche Risiken existieren?
2. Analyse         → Wie wahrscheinlich? Wie schwerwiegend?
3. Bewertung       → Akzeptabel, mitigierbar, inakzeptabel?
4. Behandlung      → Accept / Avoid / Transfer / Mitigate
5. Monitoring      → Kontinuierliche Überwachung
6. Kommunikation   → Stakeholder informieren

Drei führende Frameworks

Framework	Herausgeber	Fokus	Verbindlichkeit
NIST AI RMF	USA / NIST	Prozess-orientiert, flexibel	Freiwillig
ISO 42001	ISO/IEC	Management-System, zertifizierbar	Freiwillig
EU AI Act Art. 9	EU	Risikokategorien, rechtlich	Pflicht (Hochrisiko)

KI-spezifische Risikokategorien

Technische Risiken: Modell-Fehler, Adversarial Attacks, Datendrift
Ethische Risiken: Bias, Diskriminierung, Fairness-Verletzungen
Operationale Risiken: Systemausfälle, Missbrauch, unbeabsichtigte Nutzung
Rechtliche Risiken: DSGVO-Verstöße, EU AI Act-Non-Compliance
Reputationsrisiken: Vertrauensverlust durch KI-Fehler

IIO-Implementierung

IIO implementiert AI Risk Management durch:

HITL-Gates → Risikominderung durch menschliche Prüfpunkte
Risk Register (queue.yaml) → Dokumentation und Tracking
HITL-BOUNDARY-POLICY.yaml → AUTO/NOTIFY/HITL/BLOCK nach Risikostufe
Maturity-System → Kontinuierliches Monitoring des Reifegrads

AI Risk Management ist ein Prozess, bei dem Unternehmen Risiken identifizieren, analysieren und verringern. Solche Risiken entstehen durch KI-Systeme.

승인됨

생성 방식: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
생성일: 2026-09-21T00:11:29.079655+00:00
기준: 쉬운 언어 ~B1 — 독일 쉬운 읽기 표준 DIN SPEC 33429 아님
검토자: zolo · 2026-09-21T00:30:10.463422+00:00

AI Risk Management beinhaltet die systematische Identifizierung, Analyse, Bewertung und Behandlung von Risiken, die durch KI-Systeme resultieren können. Dies umfasst Aspekte wie Datenschutz, Sicherheit, ethische Überlegungen und potenzielle Auswirkungen auf Arbeitsplätze und Gesellschaft.

승인됨

생성 방식: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
생성일: 2026-09-21T00:11:29.079655+00:00
기준: 쉬운 언어 ~B1 — 독일 쉬운 읽기 표준 DIN SPEC 33429 아님
검토자: zolo · 2026-09-21T00:30:10.463422+00:00

참조

"AI 위험 관리." Open Cognition Commons Foundation. https://opencognitioncommons.org/ko/glossary/ai-risk-management. CC-BY 4.0.

기계로 읽을 수 있는 메타데이터

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "AI 위험 관리",
  "description": "AI Risk Management umfasst alle organisatorischen Maßnahmen zur systematischen Identifikation, Analyse, Bewertung und Behandlung von Risiken, die durch den Einsatz von KI-Systemen entstehen — für Menschen, Organisationen und die Gesellschaft.\n",
  "url": "https://opencognitioncommons.org/ko/glossary/ai-risk-management",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "AI RM",
    "KI-Risikomanagement"
  ]
}