🟢 Plain Language

KI-Code oder KI-Agenten in einem abgeschlossenen Bereich ausführen — damit sie keinen Schaden außerhalb des Sandkastens anrichten können.

🔵 Expert Level

AI Sandboxing-Techniken: OS-Level (Container, gVisor, Firecracker MicroVMs), Network-Level (egress-only policies, allowlists), API-Level (Tool-Whitelisting, rate-limiting). EU AI Act Art. 57-63: Regulatory Sandboxes als Policy-Instrument — kontrollierte Testumgebung unter Behördenaufsicht. IIO-Implementierung: Docker-basiertes Sandboxing für Agent-Code-Execution.

Warum Sandboxing?

KI-Agenten mit Werkzeugzugang können bei Fehlern:

Produktionsdaten beschädigen
Unerwünschte externe Aktionen auslösen
Kosten verursachen (API-Calls)
Compliance-Verstöße produzieren

Sandbox = isolierte Umgebung mit eingeschränkten Berechtigungen und synthetischen oder anonymisierten Daten.

Sandbox-Ebenen

Ebene	Beschreibung	Beispiel
Lokale Sandbox	Vollständig lokal	Docker ohne Netzwerk
Dev-Umgebung	Entwicklungssystem	Separate DB, kein Prod-Zugang
Staging	Prod-ähnlich, isoliert	Gleiche Infra, Testdaten
Feature-Flag	Prod mit Rollout-Control	Nur für 5% der Nutzer

IIO Sandboxing

IIO verwendet Simulation für KI-Entwicklung ohne echte Governance-Gates:

# simulation.yaml
mode: sandbox
hitl_gates: auto_approve    # keine echten HITL-Prompts
data: synthetic             # keine Produktionsdaten
external_apis: blocked      # kein externer Zugang
cost_guard: disabled        # kein Budget-Stop

Simulation-Mode ermöglicht schnelle Entwicklung ohne Governance-Overhead — nur in Sandbox-Umgebungen.

EU AI Act und Sandboxing

EU AI Act Art. 57–63 erlaubt Regulatory Sandboxes:

Kontrollierte Tests von Hochrisiko-KI vor Markteinführung
Aufsichtsbehörden können gezielte Ausnahmen gewähren
Dokumentationspflichten bleiben bestehen
Ziel: Innovation ohne regulatorisches Risiko

引用

"Sandboxing (AI)." Open Cognition Commons Foundation. https://opencognitioncommons.org/ja/glossary/sandboxing. CC-BY 4.0.

機械可読メタデータ

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "Sandboxing (AI)",
  "description": "Sandboxing bezeichnet die Praxis, KI-Systeme und -Agenten in isolierten Umgebungen zu testen und zu entwickeln, bevor sie auf Produktionssysteme losgelassen werden — mit eingeschränkten Berechtigungen und ohne Zugang zu echten Produktionsdaten.\n",
  "url": "https://opencognitioncommons.org/ja/glossary/sandboxing",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Sandboxing",
    "Sandbox",
    "Isolierte Testumgebung"
  ]
}