🟢 Plain Language

KI-Systeme die Menschen stark beeinflussen können — zum Beispiel bei Kreditvergabe, Jobbewerber-Auswahl oder Behördenentscheidungen. Für diese gelten die strengsten Regeln.

🔵 Expert Level

Hochrisiko-KI nach EU AI Act Annex III: 8 Kategorien (biometrische Identifikation, kritische Infrastruktur, Bildung, Beschäftigung, wesentliche Dienstleistungen, Strafverfolgung, Migration, Justiz). Pflichten: Art. 9 RAMS, Art. 10 Daten-Governance, Art. 11 Technische Dokumentation, Art. 12 Logging, Art. 13 Transparenz, Art. 14 HITL, Art. 15 Robustheit.

Definition

Hochrisiko-KI (EU AI Act, Annex III) sind KI-Systeme, die in sicherheitskritischen Bereichen eingesetzt werden und erhebliche Auswirkungen auf Menschen haben können.

Die Einstufung ist nicht technologisch (kein bestimmtes Modell ist automatisch Hochrisiko), sondern anwendungsbezogen: Es kommt darauf an, wofür das System eingesetzt wird.

Annex III — Hochrisiko-Bereiche

Bereich	Beispiele
Kritische Infrastruktur	KI in Strom-/Wasserversorgung, Verkehr
Bildung	Prüfungsauswertung, Zulassungssysteme
Beschäftigung	CV-Screening, Einstellungs-KI, Leistungsbewertung
Wesentliche Dienstleistungen	Kreditwürdigkeitsprüfung, Sozialleistungen
Strafverfolgung	Risikobewertung, Tatverdächtige-Erkennung
Migration & Asyl	Risikoklassifizierung, Authentifizierung
Justiz	Entscheidungsunterstützung, Faktenermittlung
Demokratische Prozesse	Beeinflussung von Wahlen
Sicherheitskomponenten	KI in Produkten (Medizin, Automobil, Luftfahrt)

Pflichten für Hochrisiko-KI

Anbieter und Betreiber von Hochrisiko-KI müssen (ab 02.08.2026):

Anbieter (Art. 9–15)

Pflicht	Artikel
Risikomanagementsystem	Art. 9
Daten-Governance	Art. 10
Technische Dokumentation	Art. 11
Aufzeichnungspflicht (Logs)	Art. 12
Transparenz gegenüber Betreibern	Art. 13
Human Oversight (HITL)	Art. 14
Genauigkeit, Robustheit, Cybersicherheit	Art. 15
Konformitätsbewertung	Art. 43
CE-Kennzeichnung	Art. 48

Betreiber (Art. 26)

Anweisungen des Anbieters befolgen
Menschliche Aufsicht sicherstellen
Logs aufbewahren (mind. 6 Monate)
Grundrechte-Folgenabschätzung (öffentliche Einrichtungen)

Ist mein KI-System Hochrisiko?

Entscheidungsbaum:

Ist das System in einem Annex-III-Bereich tätig?
├─ NEIN → Kein Hochrisiko (ggf. begrenzte/minimale Risiken)
└─ JA  → Hat es wesentlichen Einfluss auf Entscheidungen?
          ├─ NEIN → Kein Hochrisiko (reines Hilfsmittel)
          └─ JA  → HOCHRISIKO → Konformitätspflichten!

Ausnahmen: Systeme zu rein administrativen Zwecken oder ohne wesentlichen Einfluss auf die Entscheidung sind ausgenommen.

Zeitplan

Datum	Ereignis
02.08.2024	EU AI Act in Kraft
02.02.2025	Verbote (Art. 5) + AI Literacy (Art. 4)
02.08.2025	GPAI-Regeln (Kap. V)
02.08.2026	Hochrisiko-Pflichten (Kap. III) vollständig
02.08.2027	Hochrisiko in bestehenden Produkten (Annex I)

Cytowanie

"High-Risk AI." Open Cognition Commons Foundation. https://opencognitioncommons.org/pl/glossary/hochrisiko-ki. CC-BY 4.0.

Metadane czytelne maszynowo

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "High-Risk AI",
  "description": "Hochrisiko-KI bezeichnet nach EU AI Act (Annex III) KI-Systeme, die in bestimmten sicherheitskritischen Bereichen eingesetzt werden und dabei signifikante Risiken für Leben, Gesundheit, Sicherheit oder Grundrechte von Menschen darstellen.\n",
  "url": "https://opencognitioncommons.org/pl/glossary/hochrisiko-ki",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Hochrisiko-KI",
    "High-Risk AI",
    "KI mit hohem Risiko"
  ]
}