🟢 Plain Language

Menschen behalten die Kontrolle über KI-Systeme — besonders bei wichtigen Entscheidungen. KI unterstützt, entscheidet aber nicht allein.

🔵 Expert Level

Human Oversight als rechtliche Pflicht: EU AI Act Art. 14 für Hochrisiko-KI. Operationell: HITL-Gates, Override-Mechanismen, Monitoring-Dashboards. Unterschied: Oversight (strukturell, ex ante) vs. Review (reaktiv, ex post). IIO implementiert Oversight via Autonomy-Level-Matrix (L0-L5).

Definition

Human Oversight ist das Prinzip, dass Menschen jederzeit die Kontrolle über KI-Systeme behalten — und nicht umgekehrt.

EU AI Act Art. 14 — Anforderungen

Für Hochrisiko-KI verlangt der EU AI Act:

Erkennbarkeit: System erklärt eigene Grenzen und Unsicherheiten
Interpretierbarkeit: Outputs verständlich für menschliche Reviewer
Eingriffsfähigkeit: Menschen können jederzeit stoppen oder übersteuern
Deaktivierbarkeit: System kann manuell abgeschaltet werden
HITL-Pflicht: Bei risikobehafteten Entscheidungen menschliche Prüfung

Unterschied: Oversight vs. HITL

Konzept	Wann	Wie
Human Oversight	Kontinuierlich	Monitoring, Reporting
HITL	An kritischen Gates	Explizite GO/BLOCK-Entscheidung

Human Oversight ist das übergeordnete Prinzip; HITL ist die operative Umsetzung.

IIO-Implementierung

Operator (Mensch)
    ↓ jederzeit eingreifbar
HITL-BOUNDARY-POLICY.yaml
    ↓ AUTO/NOTIFY/HITL/BLOCK
Agent-Aktionen

Citação

"Human Oversight (AI)." Open Cognition Commons Foundation. https://opencognitioncommons.org/pt/glossary/human-oversight. CC-BY 4.0.

Metadados legíveis por máquina

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "Human Oversight (AI)",
  "description": "Human Oversight bezeichnet die Fähigkeit und Pflicht von Menschen, den Betrieb von KI-Systemen zu überwachen, zu kontrollieren und bei Bedarf einzugreifen — insbesondere bei Entscheidungen mit signifikanten Auswirkungen auf Menschen.\n",
  "url": "https://opencognitioncommons.org/pt/glossary/human-oversight",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Human Oversight",
    "Menschliche Aufsicht"
  ]
}