KI-Systeme die Menschen stark beeinflussen können — zum Beispiel bei Kreditvergabe, Jobbewerber-Auswahl oder Behördenentscheidungen. Für diese gelten die strengsten Regeln.
Hochrisiko-KI nach EU AI Act Annex III: 8 Kategorien (biometrische Identifikation, kritische Infrastruktur, Bildung, Beschäftigung, wesentliche Dienstleistungen, Strafverfolgung, Migration, Justiz). Pflichten: Art. 9 RAMS, Art. 10 Daten-Governance, Art. 11 Technische Dokumentation, Art. 12 Logging, Art. 13 Transparenz, Art. 14 HITL, Art. 15 Robustheit.
Definition
Hochrisiko-KI (EU AI Act, Annex III) sind KI-Systeme, die in sicherheitskritischen Bereichen eingesetzt werden und erhebliche Auswirkungen auf Menschen haben können.
Die Einstufung ist nicht technologisch (kein bestimmtes Modell ist automatisch Hochrisiko), sondern anwendungsbezogen: Es kommt darauf an, wofür das System eingesetzt wird.
Annex III — Hochrisiko-Bereiche
| Bereich | Beispiele |
|---|---|
| Kritische Infrastruktur | KI in Strom-/Wasserversorgung, Verkehr |
| Bildung | Prüfungsauswertung, Zulassungssysteme |
| Beschäftigung | CV-Screening, Einstellungs-KI, Leistungsbewertung |
| Wesentliche Dienstleistungen | Kreditwürdigkeitsprüfung, Sozialleistungen |
| Strafverfolgung | Risikobewertung, Tatverdächtige-Erkennung |
| Migration & Asyl | Risikoklassifizierung, Authentifizierung |
| Justiz | Entscheidungsunterstützung, Faktenermittlung |
| Demokratische Prozesse | Beeinflussung von Wahlen |
| Sicherheitskomponenten | KI in Produkten (Medizin, Automobil, Luftfahrt) |
Pflichten für Hochrisiko-KI
Anbieter und Betreiber von Hochrisiko-KI müssen (ab 02.08.2026):
Anbieter (Art. 9–15)
| Pflicht | Artikel |
|---|---|
| Risikomanagementsystem | Art. 9 |
| Daten-Governance | Art. 10 |
| Technische Dokumentation | Art. 11 |
| Aufzeichnungspflicht (Logs) | Art. 12 |
| Transparenz gegenüber Betreibern | Art. 13 |
| Human Oversight (HITL) | Art. 14 |
| Genauigkeit, Robustheit, Cybersicherheit | Art. 15 |
| Konformitätsbewertung | Art. 43 |
| CE-Kennzeichnung | Art. 48 |
Betreiber (Art. 26)
- Anweisungen des Anbieters befolgen
- Menschliche Aufsicht sicherstellen
- Logs aufbewahren (mind. 6 Monate)
- Grundrechte-Folgenabschätzung (öffentliche Einrichtungen)
Ist mein KI-System Hochrisiko?
Entscheidungsbaum:
Ist das System in einem Annex-III-Bereich tätig?
├─ NEIN → Kein Hochrisiko (ggf. begrenzte/minimale Risiken)
└─ JA → Hat es wesentlichen Einfluss auf Entscheidungen?
├─ NEIN → Kein Hochrisiko (reines Hilfsmittel)
└─ JA → HOCHRISIKO → Konformitätspflichten!Ausnahmen: Systeme zu rein administrativen Zwecken oder ohne wesentlichen Einfluss auf die Entscheidung sind ausgenommen.
Zeitplan
| Datum | Ereignis |
|---|---|
| 02.08.2024 | EU AI Act in Kraft |
| 02.02.2025 | Verbote (Art. 5) + AI Literacy (Art. 4) |
| 02.08.2025 | GPAI-Regeln (Kap. V) |
| 02.08.2026 | Hochrisiko-Pflichten (Kap. III) vollständig |
| 02.08.2027 | Hochrisiko in bestehenden Produkten (Annex I) |
Citação
"High-Risk AI." Open Cognition Commons Foundation. https://opencognitioncommons.org/pt/glossary/hochrisiko-ki. CC-BY 4.0. Metadados legíveis por máquina
{
"@context": "https://schema.org",
"@type": "DefinedTerm",
"name": "High-Risk AI",
"description": "Hochrisiko-KI bezeichnet nach EU AI Act (Annex III) KI-Systeme, die in bestimmten sicherheitskritischen Bereichen eingesetzt werden und dabei signifikante Risiken für Leben, Gesundheit, Sicherheit oder Grundrechte von Menschen darstellen.\n",
"url": "https://opencognitioncommons.org/pt/glossary/hochrisiko-ki",
"license": "https://creativecommons.org/licenses/by/4.0/",
"alternateName": [
"Hochrisiko-KI",
"High-Risk AI",
"KI mit hohem Risiko"
]
}