Definition
Safety by Design bedeutet: Sicherheit ist keine nachträgliche Ergänzung, sondern strukturelles Merkmal eines KI-Systems von Anfang an.
Vergleich mit Privacy by Design
| Safety by Design | Privacy by Design | |
|---|---|---|
| Fokus | Sicherheit, Schadensvermeidung | Datenschutz |
| Rechtsgrundlage | EU AI Act Art. 15 | DSGVO Art. 25 |
| Kernanliegen | Physische/psychische Integrität | Informationelle Selbstbestimmung |
Safety-by-Design-Prinzipien für KI
- Fail-Closed — Bei Unsicherheit: Stop, nicht Weitermachen
- Defense in Depth — Mehrere unabhängige Sicherheitsschichten
- Minimal Footprint — Nur nötige Berechtigungen, kein Over-Reach
- Human Override — Mensch kann immer eingreifen
- Transparency by Default — Standardmäßig erklärbar
- Testing Before Deployment — Sandbox, Red-Teaming, Adversarial Tests
EU AI Act Art. 15
Für Hochrisiko-KI:
- Genauigkeit — Dokumentierte Performance-Metriken
- Robustheit — Resilienz gegen Angriffe und Fehleingaben
- Cybersicherheit — Schutz vor adversariellen Manipulationen
Sicherheitsmaßnahmen werden frühzeitig in KI-Systeme integriert, um von Anfang an sicher zu gestalten. Dies ähnelt Privacy by Design, aber mit dem Schwerpunkt auf die physische und psychische Sicherheit der Nutzer.
已批准
- 生成方式
- scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
- 生成日期
- 2026-09-21T00:11:29.079655+00:00
- 标准
- 简单语言 ~B1 — 非德国易读标准 DIN SPEC 33429
- 审核人
- zolo · 2026-09-21T00:30:10.463422+00:00
Safety by Design verfolgt das Ziel, Sicherheitsaspekte bei KI-Systemen bereits im Entwurf und in der Architektur berücksichtigt zu haben. Dies entspricht dem Konzept Privacy by Design jedoch mit einem besonderen Schwerpunkt auf die physische und psychische Sicherheit der Nutzer.
已批准
- 生成方式
- scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
- 生成日期
- 2026-09-21T00:11:29.079655+00:00
- 标准
- 简单语言 ~B1 — 非德国易读标准 DIN SPEC 33429
- 审核人
- zolo · 2026-09-21T00:30:10.463422+00:00
引用
"设计安全（AI）." Open Cognition Commons Foundation. https://opencognitioncommons.org/zh/glossary/safety-by-design. CC-BY 4.0. 机器可读元数据
{
"@context": "https://schema.org",
"@type": "DefinedTerm",
"name": "设计安全（AI）",
"description": "Safety by Design ist das Prinzip, Sicherheitsmaßnahmen für KI-Systeme von Anfang an in Design und Architektur zu integrieren — analog zu Privacy by Design, aber mit Fokus auf physische und psychische Sicherheit der Nutzer.\n",
"url": "https://opencognitioncommons.org/zh/glossary/safety-by-design",
"license": "https://creativecommons.org/licenses/by/4.0/",
"alternateName": [
"Safety by Design",
"SbD"
]
}