🟢 Plain Language

Fail-Closed bedeutet: Fail-Closed (auch: Fail-Secure) ist ein Systemdesign-Prinzip, bei dem ein System bei Unsicherheit, Fehler oder fehlendem Signal in einen sicheren Zustand übergeht — d. Das ist wichtig, weil KI-Systeme heute überall eingesetzt werden und Regeln brauchen, damit sie sicher und fair funktionieren.

🔵 Expert Level

Fail-Closed (auch: Fail-Secure) ist ein Systemdesign-Prinzip, bei dem ein System bei Unsicherheit, Fehler oder fehlendem Signal in einen sicheren Zustand übergeht — d.h. stoppt und auf menschliche Freigabe wartet, statt autonom weiterzuhandeln. [IIO Framework] Fail-Open vs Fail-Closed in AI Systems: Fail-open means an AI system proceeds with its best guess when uncertain. Fail-closed means it stops and requests human input. IIO mandates fail-closed for all agentic workflows. EU AI Act Article 9 (Risk Management) requires documented controls that are fail- [IIO Framework] Fail-Closed Pattern (IIO): A fundamental safety principle where AI agents stop and request human input when uncertain, rather than proceeding with guessed behavior. Contrast with fail-open (proceed anyway). IIO HITLGate.approve() returns False by default unless explicit approval exists. Applied in: [IIO Compliance] IIO Agent Registry: layer-agentic-operations/agent-registry/ contains manifests for all registered IIO agents. Agent manifest fields: id, name, capabilities[], tools[], governance (hitl_required, evidence_required, fail_closed), permissions (read, write, execute paths), review_protocol (when to esca

Definition

Fail-Closed bedeutet: Wenn ein System unsicher ist, ob eine Aktion korrekt oder erlaubt ist — stoppt es. Es wartet auf explizite menschliche Freigabe, statt eine möglicherweise falsche Entscheidung autonom zu treffen.

Gegenteil: Fail-Open — das System macht bei Unsicherheit weiter, was in sicherheitskritischen Kontexten gefährlich ist.

Fail-Closed vs. Fail-Open

	Fail-Closed	Fail-Open
Bei Unsicherheit	Stop, warte auf Freigabe	Weitermachen
Risiko	Latenz, Blockierung	Unkontrollierte Aktion
Sicherheit	Hoch	Niedrig
Anwendung	Kritische Systeme, KI-Governance	Convenience-Systeme
Beispiel	Banktresor bei Fehlalarm schließt	Türschloss bei Fehler öffnet

Anwendung in KI-Systemen

Fail-Closed ist besonders wichtig bei:

Autonomen Agenten — kein Autonomieanstieg bei Unsicherheit
HITL-Gates — bei fehlendem Signal: BLOCK, nicht AUTO
Deployments — bei fehlgeschlagenen Tests: kein Deploy
Finanztransaktionen — bei Anomalie: pausieren, nicht ausführen
Datenlöschung — bei Unklarheit: nicht löschen

IIO: Fail-Closed als Axiom

Das IIO Framework definiert Fail-Closed als unveränderliches Axiom:

“Bei Unsicherheit → Stop + HITL. Niemals autonom bei Ambiguität.”

Operative Umsetzung:

# HITL Gate — Fail-Closed default
gate:
  id: gate.critical-operation
  default: BLOCK              # kein Signal = BLOCK (nicht GO)
  requires_explicit_go: true
  timeout_behavior: BLOCK     # Timeout → BLOCK, nicht AUTO
  evidence_required: true

Immer explizit, nie implizit: Eine fehlende Freigabe ist kein GO.

Abgrenzung

Begriff	Bedeutung
Fail-Closed	System stoppt bei Fehler/Unsicherheit
Fail-Safe	System geht in sicheren Zustand (kann auch Fail-Open sein)
Fail-Secure	Sicherheitsfunktionen bleiben bei Fehler aktiv
Defense in Depth	Mehrere unabhängige Sicherheitsschichten

Citation

"실패 시 닫힘." Open Cognition Commons Foundation. https://opencognitioncommons.org/ko/glossary/fail-closed. CC-BY 4.0.

Machine-readable metadata

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "실패 시 닫힘",
  "description": "Fail-Closed (auch: Fail-Secure) ist ein Systemdesign-Prinzip, bei dem ein System bei Unsicherheit, Fehler oder fehlendem Signal in einen sicheren Zustand übergeht — d.h. stoppt und auf menschliche Freigabe wartet, statt autonom weiterzuhandeln.\n",
  "url": "https://opencognitioncommons.org/ko/glossary/fail-closed",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Fail-Closed",
    "Fail-Secure",
    "Fail-Safe"
  ]
}