🟢 Plain Language

Sandboxing (KI) bedeutet: Sandboxing bezeichnet die Praxis, KI-Systeme und -Agenten in isolierten Umgebungen zu testen und zu entwickeln, bevor sie auf Produktionssysteme losgelassen werden — mit eingeschränkten Berechtigungen und ohne Zugang zu echten Produktionsdaten. Das ist wichtig, weil KI-Systeme heute überall eingesetzt werden und Regeln brauchen, damit sie sicher und fair funktionieren.

🔵 Expert Level

Sandboxing bezeichnet die Praxis, KI-Systeme und -Agenten in isolierten Umgebungen zu testen und zu entwickeln, bevor sie auf Produktionssysteme losgelassen werden — mit eingeschränkten Berechtigungen und ohne Zugang zu echten Produktionsdaten. [IIO Framework] AI Agent Sandboxing (IIO): Isolation of AI agent execution environments to prevent unintended system access. IIO implements sandboxing through: Docker containers for code execution, HITL gates blocking filesystem/network access, PolicyCheck blocking external API calls without approval, and run.sh sc [IIO Framework] Sandboxing: Isolierte Testumgebung für KI-Systeme vor dem Produktiveinsatz. IIO nutzt Staging-Instanzen für alle Layer-Änderungen.

Warum Sandboxing?

KI-Agenten mit Werkzeugzugang können bei Fehlern:

Produktionsdaten beschädigen
Unerwünschte externe Aktionen auslösen
Kosten verursachen (API-Calls)
Compliance-Verstöße produzieren

Sandbox = isolierte Umgebung mit eingeschränkten Berechtigungen und synthetischen oder anonymisierten Daten.

Sandbox-Ebenen

Ebene	Beschreibung	Beispiel
Lokale Sandbox	Vollständig lokal	Docker ohne Netzwerk
Dev-Umgebung	Entwicklungssystem	Separate DB, kein Prod-Zugang
Staging	Prod-ähnlich, isoliert	Gleiche Infra, Testdaten
Feature-Flag	Prod mit Rollout-Control	Nur für 5% der Nutzer

IIO Sandboxing

IIO verwendet Simulation für KI-Entwicklung ohne echte Governance-Gates:

# simulation.yaml
mode: sandbox
hitl_gates: auto_approve    # keine echten HITL-Prompts
data: synthetic             # keine Produktionsdaten
external_apis: blocked      # kein externer Zugang
cost_guard: disabled        # kein Budget-Stop

Simulation-Mode ermöglicht schnelle Entwicklung ohne Governance-Overhead — nur in Sandbox-Umgebungen.

EU AI Act und Sandboxing

EU AI Act Art. 57–63 erlaubt Regulatory Sandboxes:

Kontrollierte Tests von Hochrisiko-KI vor Markteinführung
Aufsichtsbehörden können gezielte Ausnahmen gewähren
Dokumentationspflichten bleiben bestehen
Ziel: Innovation ohne regulatorisches Risiko

Citation

"샌드박스링 (KI)." Open Cognition Commons Foundation. https://opencognitioncommons.org/ko/glossary/sandboxing. CC-BY 4.0.

Machine-readable metadata

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "샌드박스링 (KI)",
  "description": "Sandboxing bezeichnet die Praxis, KI-Systeme und -Agenten in isolierten Umgebungen zu testen und zu entwickeln, bevor sie auf Produktionssysteme losgelassen werden — mit eingeschränkten Berechtigungen und ohne Zugang zu echten Produktionsdaten.\n",
  "url": "https://opencognitioncommons.org/ko/glossary/sandboxing",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Sandboxing",
    "Sandbox",
    "Isolierte Testumgebung"
  ]
}