🟢 Plain Language

Wenn ein System unsicher ist bleibt es lieber gesperrt als zu riskieren Fehler zu machen. Sicherheit geht vor Verfügbarkeit.

🔵 Expert Level

Fail-Closed als Sicherheitsprinzip: bei Unsicherheit oder Fehler → System stoppt und eskaliert (BLOCK-State). Gegensatz: Fail-Open (System läuft weiter mit Fallback). IIO-Implementierung: cost-guard.sh blockiert autonomen Agent-Start wenn Budget überschritten, HITL-Gates blockieren bei fehlender Evidenz. EU AI Act verlangt Fail-Closed für sicherheitskritische Hochrisiko-KI.

Definition

Fail-Closed bedeutet: Wenn ein System unsicher ist, ob eine Aktion korrekt oder erlaubt ist — stoppt es. Es wartet auf explizite menschliche Freigabe, statt eine möglicherweise falsche Entscheidung autonom zu treffen.

Gegenteil: Fail-Open — das System macht bei Unsicherheit weiter, was in sicherheitskritischen Kontexten gefährlich ist.

Fail-Closed vs. Fail-Open

	Fail-Closed	Fail-Open
Bei Unsicherheit	Stop, warte auf Freigabe	Weitermachen
Risiko	Latenz, Blockierung	Unkontrollierte Aktion
Sicherheit	Hoch	Niedrig
Anwendung	Kritische Systeme, KI-Governance	Convenience-Systeme
Beispiel	Banktresor bei Fehlalarm schließt	Türschloss bei Fehler öffnet

Anwendung in KI-Systemen

Fail-Closed ist besonders wichtig bei:

Autonomen Agenten — kein Autonomieanstieg bei Unsicherheit
HITL-Gates — bei fehlendem Signal: BLOCK, nicht AUTO
Deployments — bei fehlgeschlagenen Tests: kein Deploy
Finanztransaktionen — bei Anomalie: pausieren, nicht ausführen
Datenlöschung — bei Unklarheit: nicht löschen

IIO: Fail-Closed als Axiom

Das IIO Framework definiert Fail-Closed als unveränderliches Axiom:

“Bei Unsicherheit → Stop + HITL. Niemals autonom bei Ambiguität.”

Operative Umsetzung:

# HITL Gate — Fail-Closed default
gate:
  id: gate.critical-operation
  default: BLOCK              # kein Signal = BLOCK (nicht GO)
  requires_explicit_go: true
  timeout_behavior: BLOCK     # Timeout → BLOCK, nicht AUTO
  evidence_required: true

Immer explizit, nie implizit: Eine fehlende Freigabe ist kein GO.

Abgrenzung

Begriff	Bedeutung
Fail-Closed	System stoppt bei Fehler/Unsicherheit
Fail-Safe	System geht in sicheren Zustand (kann auch Fail-Open sein)
Fail-Secure	Sicherheitsfunktionen bleiben bei Fehler aktiv
Defense in Depth	Mehrere unabhängige Sicherheitsschichten

引用

"Fail-Closed." Open Cognition Commons Foundation. https://opencognitioncommons.org/zh/glossary/fail-closed. CC-BY 4.0.

机器可读元数据

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "Fail-Closed",
  "description": "Fail-Closed (auch: Fail-Secure) ist ein Systemdesign-Prinzip, bei dem ein System bei Unsicherheit, Fehler oder fehlendem Signal in einen sicheren Zustand übergeht — d.h. stoppt und auf menschliche Freigabe wartet, statt autonom weiterzuhandeln.\n",
  "url": "https://opencognitioncommons.org/zh/glossary/fail-closed",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Fail-Closed",
    "Fail-Secure",
    "Fail-Safe"
  ]
}