🟢 Plain Language

Risk Assessment (KI) bedeutet: AI Risk Assessment ist der strukturierte Prozess zur Identifikation, Analyse und Bewertung von Risiken, die von einem KI-System ausgehen können — für Menschen, Organisationen und die Gesellschaft. Das ist wichtig, weil KI-Systeme heute überall eingesetzt werden und Regeln brauchen, damit sie sicher und fair funktionieren.

🔵 Expert Level

AI Risk Assessment ist der strukturierte Prozess zur Identifikation, Analyse und Bewertung von Risiken, die von einem KI-System ausgehen können — für Menschen, Organisationen und die Gesellschaft. [IIO Compliance] ISO 42001 Clause 6 — Planning: requires risk identification, opportunity assessment, and planning for change. IIO: risk assessment via layer-risk-management, opportunity tracking in growth-config.yaml, change management via HITL gates (all significant changes require gate approval). Risk register ma [EU AI Act] 43: Conformity Assessment 1. For high-risk AI systems listed in point 1 of Annex III , where, in demonstrating the compliance of a high-risk AI system with the requirements set out in Section 2, the provider has applied harmonised standards referred to in Article 40 , or, where applicable, common sp [IIO Compliance] GDPR Article 35 — Data Protection Impact Assessment (DPIA): required for high-risk processing (large-scale, systematic monitoring, sensitive data). IIO: DPIAs conducted for AI-assisted processing, stored in specs/evidence/dpia/. DPIA trigger: new processing with significant risk to data subjects. DP

Definition

Ein AI Risk Assessment bewertet systematisch:

Wahrscheinlichkeit — Wie wahrscheinlich ist ein Schaden?
Schwere — Wie gravierend sind mögliche Auswirkungen?
Reversibilität — Können Schäden rückgängig gemacht werden?
Betroffene — Wer ist wie stark betroffen?
Umfang — Wie viele Personen sind betroffen?

Risikokategorien für KI

Kategorie	Beispiele	Typische Bewertung
Sicherheitsrisiken	Fehler in kritischer Infrastruktur	Hoch
Diskriminierung	Bias in Einstellungs-KI	Hoch
Datenschutz	Datenlecks, Profiling	Mittel-Hoch
Manipulationsrisiko	Deepfakes, Desinformation	Mittel-Hoch
Autonomierisiko	Übermäßige KI-Abhängigkeit	Mittel
Wirtschaftliche Risiken	Fehlentscheidungen	Kontext-abhängig

EU AI Act — Risikomanagementsystem (Art. 9)

Für Hochrisiko-KI ist ein kontinuierliches Risikomanagementsystem Pflicht:

Identifikation aller bekannten und vorhersehbaren Risiken
Schätzung der Risiken bei bestimmungsgemäßem und vorhersehbarem Fehlgebrauch
Bewertung der Risiken nach Inbetriebnahme
Geeignete Risikominderungsmaßnahmen

Das System muss iterativ sein — Risiken werden während des gesamten Lebenszyklus bewertet.

Risk Assessment Methoden

Qualitativ

Risikomatrix:
              Gering    Mittel    Hoch
             ┌─────────┬─────────┬─────────┐
Selten       │  Gering │  Gering │  Mittel │
             ├─────────┼─────────┼─────────┤
Möglich      │  Gering │  Mittel │  Hoch   │
             ├─────────┼─────────┼─────────┤
Wahrscheinl. │  Mittel │  Hoch   │  Kritisch│
             └─────────┴─────────┴─────────┘

Quantitativ

Expected Loss = P(Schaden) × Schadenshöhe
Monte Carlo Simulation für komplexe Szenarien
Bayesianische Netze für abhängige Risiken

DSFA und AI Risk Assessment

	DSGVO Art. 35 DSFA	EU AI Act Art. 9
Fokus	Datenschutzrisiken	KI-Risiken allgemein
Pflicht	Bei hohem Risiko für Personen	Alle Hochrisiko-KI
Ergebnis	DSFA-Bericht	Risikomanagementsystem
Wiederholung	Bei signifikanten Änderungen	Kontinuierlich

Praxis: Hochrisiko-KI nach EU AI Act benötigt meist beide.

Risk Register

Das Risk Register dokumentiert alle identifizierten Risiken:

risks:
  - id: RISK-001
    description: Diskriminierung bei Kreditentscheidungen durch historischen Bias
    likelihood: medium
    impact: high
    risk_level: high
    mitigation:
      - Regelmäßige Bias-Tests (quartalsweise)
      - HITL für Grenzfälle (Score 40-60%)
      - Fairness-Metriken in Monitoring
    owner: team-risk
    review_date: "2026-08-01"
    status: mitigated

Citation

"AI 위험 평가." Open Cognition Commons Foundation. https://opencognitioncommons.org/ko/glossary/risk-assessment. CC-BY 4.0.

Machine-readable metadata

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "AI 위험 평가",
  "description": "AI Risk Assessment ist der strukturierte Prozess zur Identifikation, Analyse und Bewertung von Risiken, die von einem KI-System ausgehen können — für Menschen, Organisationen und die Gesellschaft.\n",
  "url": "https://opencognitioncommons.org/ko/glossary/risk-assessment",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Risk Assessment",
    "Risikobewertung",
    "AI RIA",
    "Risk Analysis"
  ]
}