Definition
Safety by Design bedeutet: Sicherheit ist keine nachträgliche Ergänzung, sondern strukturelles Merkmal eines KI-Systems von Anfang an.
Vergleich mit Privacy by Design
| Safety by Design | Privacy by Design | |
|---|---|---|
| Fokus | Sicherheit, Schadensvermeidung | Datenschutz |
| Rechtsgrundlage | EU AI Act Art. 15 | DSGVO Art. 25 |
| Kernanliegen | Physische/psychische Integrität | Informationelle Selbstbestimmung |
Safety-by-Design-Prinzipien für KI
- Fail-Closed — Bei Unsicherheit: Stop, nicht Weitermachen
- Defense in Depth — Mehrere unabhängige Sicherheitsschichten
- Minimal Footprint — Nur nötige Berechtigungen, kein Over-Reach
- Human Override — Mensch kann immer eingreifen
- Transparency by Default — Standardmäßig erklärbar
- Testing Before Deployment — Sandbox, Red-Teaming, Adversarial Tests
EU AI Act Art. 15
Für Hochrisiko-KI:
- Genauigkeit — Dokumentierte Performance-Metriken
- Robustheit — Resilienz gegen Angriffe und Fehleingaben
- Cybersicherheit — Schutz vor adversariellen Manipulationen
Sicherheitsmaßnahmen werden frühzeitig in KI-Systeme integriert, um von Anfang an sicher zu gestalten. Dies ähnelt Privacy by Design, aber mit dem Schwerpunkt auf die physische und psychische Sicherheit der Nutzer.
Freigegeben
- Erzeugt von
- scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
- Erzeugt am
- 2026-09-21T00:11:29.079655+00:00
- Norm
- Einfache Sprache ~B1 — nicht Leichte Sprache (DIN SPEC 33429)
- Geprüft von
- zolo · 2026-09-21T00:30:10.463422+00:00
Safety by Design verfolgt das Ziel, Sicherheitsaspekte bei KI-Systemen bereits im Entwurf und in der Architektur berücksichtigt zu haben. Dies entspricht dem Konzept Privacy by Design jedoch mit einem besonderen Schwerpunkt auf die physische und psychische Sicherheit der Nutzer.
Freigegeben
- Erzeugt von
- scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
- Erzeugt am
- 2026-09-21T00:11:29.079655+00:00
- Norm
- Einfache Sprache ~B1 — nicht Leichte Sprache (DIN SPEC 33429)
- Geprüft von
- zolo · 2026-09-21T00:30:10.463422+00:00
Zitierung
"Safety by Design (AI)." Open Cognition Commons Foundation. https://opencognitioncommons.org/glossar/safety-by-design. CC-BY 4.0. Maschinenlesbare Metadaten
{
"@context": "https://schema.org",
"@type": "DefinedTerm",
"name": "Safety by Design (AI)",
"description": "Safety by Design ist das Prinzip, Sicherheitsmaßnahmen für KI-Systeme von Anfang an in Design und Architektur zu integrieren — analog zu Privacy by Design, aber mit Fokus auf physische und psychische Sicherheit der Nutzer.\n",
"url": "https://opencognitioncommons.org/glossar/safety-by-design",
"license": "https://creativecommons.org/licenses/by/4.0/",
"alternateName": [
"Safety by Design",
"SbD"
]
}