Definition

HITL (Human-in-the-Loop) ist ein Designprinzip für KI-Systeme und automatisierte Prozesse, bei dem Menschen an kritischen Entscheidungspunkten aktiv eingebunden werden — bevor das System autonom weiterhandelt.

Warum HITL?

KI-Systeme können fehlerhafte, diskriminierende oder gefährliche Ausgaben produzieren. HITL ist die wichtigste Maßnahme gegen unkontrollierte Automatisierung:

Szenario	Ohne HITL	Mit HITL
Kreditentscheidung	Automatische Ablehnung	Mensch prüft Grenzfälle
Code-Deploy	Direkt in Produktion	Review + Freigabe erforderlich
Inhaltsmoderation	Automatische Löschung	Eskalation bei Unsicherheit
Finanztransaktion	Sofortausführung	Freigabe ab Schwellenwert

HITL im EU AI Act

Der EU AI Act verlangt HITL für alle Hochrisiko-KI-Systeme (Annex III):

Art. 9 — Risikomanagementsystem: menschliche Aufsicht als Pflicht
Art. 14 — Human oversight: KI-Systeme müssen von Menschen überwachbar sein
Art. 26 — Betreiberpflichten: Überwachung und Eingriffsmöglichkeit

HITL-Gate (IIO-Implementierung)

In IIO ist jeder HITL-Gate ein formaler Prüfpunkt in einem automatisierten Flow:

Automatisierte Aktion
        ↓
  HITL-Gate prüft
        ↓
 [GO] oder [BLOCK]
        ↓
  Mensch entscheidet
        ↓
   Ausführung / Abbruch

HITL-Gate-Typen:

AUTO — kein menschlicher Eingriff nötig (niedrigrisikant, policy-konform)
NOTIFY — Mensch wird informiert, kann eingreifen
HITL — Mensch muss aktiv freigeben
BLOCK — Gesperrt bis explizite Freigabe mit Begründung

Fail-Closed-Prinzip

Bei Unsicherheit oder fehlendem HITL-Signal gilt: Stop. Das System wartet auf menschliche Freigabe statt autonom fortzufahren. Dies ist IIO-Grundsatz und EU AI Act-Anforderung für Hochrisikosysteme.

Grenzen von HITL

HITL ist kein Allheilmittel:

Überforderte Reviewer bei hohem Volumen (Alarm-Fatigue)
Rubber-Stamping wenn Gates zu häufig auslösen
Latenz in zeitkritischen Prozessen

IIO begegnet dem durch: automatisches Lernen aus Gate-Entscheidungen, dynamische Gate-Schwellenwerte und klar definierte Eskalationspfade.

Menschen sind an entscheidenden Stellen in einem automatisierten Prozess beteiligt, bevor das System selbständig handelt.

已批准

生成方式: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
生成日期: 2026-09-21T00:11:29.079655+00:00
标准: 简单语言 ~B1 — 非德国易读标准 DIN SPEC 33429
审核人: zolo · 2026-09-21T00:30:10.463422+00:00

HITL (Human-in-the-Loop) bezeichnet ein Konzept im Systemdesign, bei dem Nutzer oder Experten in kritischen Phasen des Automatisierungsprozesses aktiv involviert sind, um sicherzustellen, dass das System korrekt und ethisch handelt. Dieser Ansatz verhindert vollständige Autonomie des Systems, indem Menschen die Möglichkeit haben, Eingriffe vorzunehmen oder den Prozess zu überwachen.

已批准

生成方式: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
生成日期: 2026-09-21T00:11:29.079655+00:00
标准: 简单语言 ~B1 — 非德国易读标准 DIN SPEC 33429
审核人: zolo · 2026-09-21T00:30:10.463422+00:00

引用

"人工介入循环(HITL)." Open Cognition Commons Foundation. https://opencognitioncommons.org/zh/glossary/hitl. CC-BY 4.0.

机器可读元数据

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "人工介入循环(HITL)",
  "description": "HITL (Human-in-the-Loop) ist ein Systemdesign-Prinzip, bei dem Menschen an entscheidenden Punkten eines automatisierten Prozesses eingebunden werden, bevor das System autonom weiterhandelt.\n",
  "url": "https://opencognitioncommons.org/zh/glossary/hitl",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "HITL",
    "Human-in-the-Loop",
    "Human in the Loop"
  ]
}