Definition

Hochrisiko-KI (EU AI Act, Annex III) sind KI-Systeme, die in sicherheitskritischen Bereichen eingesetzt werden und erhebliche Auswirkungen auf Menschen haben können.

Die Einstufung ist nicht technologisch (kein bestimmtes Modell ist automatisch Hochrisiko), sondern anwendungsbezogen: Es kommt darauf an, wofür das System eingesetzt wird.

Annex III — Hochrisiko-Bereiche

Bereich	Beispiele
Kritische Infrastruktur	KI in Strom-/Wasserversorgung, Verkehr
Bildung	Prüfungsauswertung, Zulassungssysteme
Beschäftigung	CV-Screening, Einstellungs-KI, Leistungsbewertung
Wesentliche Dienstleistungen	Kreditwürdigkeitsprüfung, Sozialleistungen
Strafverfolgung	Risikobewertung, Tatverdächtige-Erkennung
Migration & Asyl	Risikoklassifizierung, Authentifizierung
Justiz	Entscheidungsunterstützung, Faktenermittlung
Demokratische Prozesse	Beeinflussung von Wahlen
Sicherheitskomponenten	KI in Produkten (Medizin, Automobil, Luftfahrt)

Pflichten für Hochrisiko-KI

Anbieter und Betreiber von Hochrisiko-KI müssen (ab 02.08.2026):

Anbieter (Art. 9–15)

Pflicht	Artikel
Risikomanagementsystem	Art. 9
Daten-Governance	Art. 10
Technische Dokumentation	Art. 11
Aufzeichnungspflicht (Logs)	Art. 12
Transparenz gegenüber Betreibern	Art. 13
Human Oversight (HITL)	Art. 14
Genauigkeit, Robustheit, Cybersicherheit	Art. 15
Konformitätsbewertung	Art. 43
CE-Kennzeichnung	Art. 48

Betreiber (Art. 26)

Anweisungen des Anbieters befolgen
Menschliche Aufsicht sicherstellen
Logs aufbewahren (mind. 6 Monate)
Grundrechte-Folgenabschätzung (öffentliche Einrichtungen)

Ist mein KI-System Hochrisiko?

Entscheidungsbaum:

Ist das System in einem Annex-III-Bereich tätig?
├─ NEIN → Kein Hochrisiko (ggf. begrenzte/minimale Risiken)
└─ JA  → Hat es wesentlichen Einfluss auf Entscheidungen?
          ├─ NEIN → Kein Hochrisiko (reines Hilfsmittel)
          └─ JA  → HOCHRISIKO → Konformitätspflichten!

Ausnahmen: Systeme zu rein administrativen Zwecken oder ohne wesentlichen Einfluss auf die Entscheidung sind ausgenommen.

Zeitplan

Datum	Ereignis
02.08.2024	EU AI Act in Kraft
02.02.2025	Verbote (Art. 5) + AI Literacy (Art. 4)
02.08.2025	GPAI-Regeln (Kap. V)
02.08.2026	Hochrisiko-Pflichten (Kap. III) vollständig
02.08.2027	Hochrisiko in bestehenden Produkten (Annex I)

Wenn etwas Hochrisiko-KI ist, kann es Lebensgefahr verursachen.

Goedgekeurd

Gegenereerd door: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
Gegenereerd op: 2026-09-21T00:11:29.079655+00:00
Norm: Eenvoudige taal ~B1 — niet de Duitse norm voor makkelijk lezen DIN SPEC 33429
Gecontroleerd door: zolo · 2026-09-21T00:30:10.463422+00:00

Hochrisiko-KI bezieht sich nach EU AI Act (Annex III) auf KI-Systeme, die in sicherheitskritischen Bereichen eingesetzt werden und signifikante Gefahren für das Leben, die Gesundheit, die Sicherheit oder Grundrechte von Menschen darstellen.

Goedgekeurd

Gegenereerd door: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
Gegenereerd op: 2026-09-21T00:11:29.079655+00:00
Norm: Eenvoudige taal ~B1 — niet de Duitse norm voor makkelijk lezen DIN SPEC 33429
Gecontroleerd door: zolo · 2026-09-21T00:30:10.463422+00:00

Citaat

"Hooggevaarlijke AI." Open Cognition Commons Foundation. https://opencognitioncommons.org/nl/glossary/hochrisiko-ki. CC-BY 4.0.

Machineleesbare metadata

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "Hooggevaarlijke AI",
  "description": "Hochrisiko-KI bezeichnet nach EU AI Act (Annex III) KI-Systeme, die in bestimmten sicherheitskritischen Bereichen eingesetzt werden und dabei signifikante Risiken für Leben, Gesundheit, Sicherheit oder Grundrechte von Menschen darstellen.\n",
  "url": "https://opencognitioncommons.org/nl/glossary/hochrisiko-ki",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Hochrisiko-KI",
    "High-Risk AI",
    "KI mit hohem Risiko"
  ]
}