🟢 Plain Language

Menschen prüfen wichtige KI-Entscheidungen bevor sie umgesetzt werden. Wie ein Sicherheitsnetz: die KI schlägt vor, ein Mensch entscheidet.

🔵 Expert Level

HITL-Gates implementieren formale Kontrollpunkte in automatisierten Workflows. Das IIO-System klassifiziert Gates nach HITL-BOUNDARY-POLICY.yaml in AUTO/NOTIFY/HITL/BLOCK basierend auf Risikostufe und Kontext.

Definition

HITL (Human-in-the-Loop) ist ein Designprinzip für KI-Systeme und automatisierte Prozesse, bei dem Menschen an kritischen Entscheidungspunkten aktiv eingebunden werden — bevor das System autonom weiterhandelt.

Warum HITL?

KI-Systeme können fehlerhafte, diskriminierende oder gefährliche Ausgaben produzieren. HITL ist die wichtigste Maßnahme gegen unkontrollierte Automatisierung:

Szenario	Ohne HITL	Mit HITL
Kreditentscheidung	Automatische Ablehnung	Mensch prüft Grenzfälle
Code-Deploy	Direkt in Produktion	Review + Freigabe erforderlich
Inhaltsmoderation	Automatische Löschung	Eskalation bei Unsicherheit
Finanztransaktion	Sofortausführung	Freigabe ab Schwellenwert

HITL im EU AI Act

Der EU AI Act verlangt HITL für alle Hochrisiko-KI-Systeme (Annex III):

Art. 9 — Risikomanagementsystem: menschliche Aufsicht als Pflicht
Art. 14 — Human oversight: KI-Systeme müssen von Menschen überwachbar sein
Art. 26 — Betreiberpflichten: Überwachung und Eingriffsmöglichkeit

HITL-Gate (IIO-Implementierung)

In IIO ist jeder HITL-Gate ein formaler Prüfpunkt in einem automatisierten Flow:

Automatisierte Aktion
        ↓
  HITL-Gate prüft
        ↓
 [GO] oder [BLOCK]
        ↓
  Mensch entscheidet
        ↓
   Ausführung / Abbruch

HITL-Gate-Typen:

AUTO — kein menschlicher Eingriff nötig (niedrigrisikant, policy-konform)
NOTIFY — Mensch wird informiert, kann eingreifen
HITL — Mensch muss aktiv freigeben
BLOCK — Gesperrt bis explizite Freigabe mit Begründung

Fail-Closed-Prinzip

Bei Unsicherheit oder fehlendem HITL-Signal gilt: Stop. Das System wartet auf menschliche Freigabe statt autonom fortzufahren. Dies ist IIO-Grundsatz und EU AI Act-Anforderung für Hochrisikosysteme.

Grenzen von HITL

HITL ist kein Allheilmittel:

Überforderte Reviewer bei hohem Volumen (Alarm-Fatigue)
Rubber-Stamping wenn Gates zu häufig auslösen
Latenz in zeitkritischen Prozessen

IIO begegnet dem durch: automatisches Lernen aus Gate-Entscheidungen, dynamische Gate-Schwellenwerte und klar definierte Eskalationspfade.

引用

"HITL (Human-in-the-Loop)." Open Cognition Commons Foundation. https://opencognitioncommons.org/zh/glossary/hitl. CC-BY 4.0.

机器可读元数据

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "HITL (Human-in-the-Loop)",
  "description": "HITL (Human-in-the-Loop) ist ein Systemdesign-Prinzip, bei dem Menschen an entscheidenden Punkten eines automatisierten Prozesses eingebunden werden, bevor das System autonom weiterhandelt.\n",
  "url": "https://opencognitioncommons.org/zh/glossary/hitl",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "HITL",
    "Human-in-the-Loop",
    "Human in the Loop"
  ]
}