🟢 Plain Language

Prüfen welche Risiken ein KI-System haben könnte — bevor man es einsetzt.

🔵 Expert Level

KI-Risikobewertung nach EU AI Act Art. 9: iterativ, dokumentiert, re-evaluiert nach Updates. Methoden: STRIDE (Threat Modeling), FMEA (Failure Mode Analysis), DREAD-Scoring. Output: Risikomatrix + Mitigationsplan.

Definition

Ein AI Risk Assessment bewertet systematisch:

Wahrscheinlichkeit — Wie wahrscheinlich ist ein Schaden?
Schwere — Wie gravierend sind mögliche Auswirkungen?
Reversibilität — Können Schäden rückgängig gemacht werden?
Betroffene — Wer ist wie stark betroffen?
Umfang — Wie viele Personen sind betroffen?

Risikokategorien für KI

Kategorie	Beispiele	Typische Bewertung
Sicherheitsrisiken	Fehler in kritischer Infrastruktur	Hoch
Diskriminierung	Bias in Einstellungs-KI	Hoch
Datenschutz	Datenlecks, Profiling	Mittel-Hoch
Manipulationsrisiko	Deepfakes, Desinformation	Mittel-Hoch
Autonomierisiko	Übermäßige KI-Abhängigkeit	Mittel
Wirtschaftliche Risiken	Fehlentscheidungen	Kontext-abhängig

EU AI Act — Risikomanagementsystem (Art. 9)

Für Hochrisiko-KI ist ein kontinuierliches Risikomanagementsystem Pflicht:

Identifikation aller bekannten und vorhersehbaren Risiken
Schätzung der Risiken bei bestimmungsgemäßem und vorhersehbarem Fehlgebrauch
Bewertung der Risiken nach Inbetriebnahme
Geeignete Risikominderungsmaßnahmen

Das System muss iterativ sein — Risiken werden während des gesamten Lebenszyklus bewertet.

Risk Assessment Methoden

Qualitativ

Risikomatrix:
              Gering    Mittel    Hoch
             ┌─────────┬─────────┬─────────┐
Selten       │  Gering │  Gering │  Mittel │
             ├─────────┼─────────┼─────────┤
Möglich      │  Gering │  Mittel │  Hoch   │
             ├─────────┼─────────┼─────────┤
Wahrscheinl. │  Mittel │  Hoch   │  Kritisch│
             └─────────┴─────────┴─────────┘

Quantitativ

Expected Loss = P(Schaden) × Schadenshöhe
Monte Carlo Simulation für komplexe Szenarien
Bayesianische Netze für abhängige Risiken

DSFA und AI Risk Assessment

	DSGVO Art. 35 DSFA	EU AI Act Art. 9
Fokus	Datenschutzrisiken	KI-Risiken allgemein
Pflicht	Bei hohem Risiko für Personen	Alle Hochrisiko-KI
Ergebnis	DSFA-Bericht	Risikomanagementsystem
Wiederholung	Bei signifikanten Änderungen	Kontinuierlich

Praxis: Hochrisiko-KI nach EU AI Act benötigt meist beide.

Risk Register

Das Risk Register dokumentiert alle identifizierten Risiken:

risks:
  - id: RISK-001
    description: Diskriminierung bei Kreditentscheidungen durch historischen Bias
    likelihood: medium
    impact: high
    risk_level: high
    mitigation:
      - Regelmäßige Bias-Tests (quartalsweise)
      - HITL für Grenzfälle (Score 40-60%)
      - Fairness-Metriken in Monitoring
    owner: team-risk
    review_date: "2026-08-01"
    status: mitigated

引用

"AI Risk Assessment." Open Cognition Commons Foundation. https://opencognitioncommons.org/zh/glossary/risk-assessment. CC-BY 4.0.

机器可读元数据

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "AI Risk Assessment",
  "description": "AI Risk Assessment ist der strukturierte Prozess zur Identifikation, Analyse und Bewertung von Risiken, die von einem KI-System ausgehen können — für Menschen, Organisationen und die Gesellschaft.\n",
  "url": "https://opencognitioncommons.org/zh/glossary/risk-assessment",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Risk Assessment",
    "Risikobewertung",
    "AI RIA",
    "Risk Analysis"
  ]
}