Definition
Safety by Design bedeutet: Sicherheit ist keine nachträgliche Ergänzung, sondern strukturelles Merkmal eines KI-Systems von Anfang an.
Vergleich mit Privacy by Design
| Safety by Design | Privacy by Design | |
|---|---|---|
| Fokus | Sicherheit, Schadensvermeidung | Datenschutz |
| Rechtsgrundlage | EU AI Act Art. 15 | DSGVO Art. 25 |
| Kernanliegen | Physische/psychische Integrität | Informationelle Selbstbestimmung |
Safety-by-Design-Prinzipien für KI
- Fail-Closed — Bei Unsicherheit: Stop, nicht Weitermachen
- Defense in Depth — Mehrere unabhängige Sicherheitsschichten
- Minimal Footprint — Nur nötige Berechtigungen, kein Over-Reach
- Human Override — Mensch kann immer eingreifen
- Transparency by Default — Standardmäßig erklärbar
- Testing Before Deployment — Sandbox, Red-Teaming, Adversarial Tests
EU AI Act Art. 15
Für Hochrisiko-KI:
- Genauigkeit — Dokumentierte Performance-Metriken
- Robustheit — Resilienz gegen Angriffe und Fehleingaben
- Cybersicherheit — Schutz vor adversariellen Manipulationen
Sicherheitsmaßnahmen werden frühzeitig in KI-Systeme integriert, um von Anfang an sicher zu gestalten. Dies ähnelt Privacy by Design, aber mit dem Schwerpunkt auf die physische und psychische Sicherheit der Nutzer.
승인됨
- 생성 방식
- scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
- 생성일
- 2026-09-21T00:11:29.079655+00:00
- 기준
- 쉬운 언어 ~B1 — 독일 쉬운 읽기 표준 DIN SPEC 33429 아님
- 검토자
- zolo · 2026-09-21T00:30:10.463422+00:00
Safety by Design verfolgt das Ziel, Sicherheitsaspekte bei KI-Systemen bereits im Entwurf und in der Architektur berücksichtigt zu haben. Dies entspricht dem Konzept Privacy by Design jedoch mit einem besonderen Schwerpunkt auf die physische und psychische Sicherheit der Nutzer.
승인됨
- 생성 방식
- scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
- 생성일
- 2026-09-21T00:11:29.079655+00:00
- 기준
- 쉬운 언어 ~B1 — 독일 쉬운 읽기 표준 DIN SPEC 33429 아님
- 검토자
- zolo · 2026-09-21T00:30:10.463422+00:00
참조
"디자인으로부터의 안전성." Open Cognition Commons Foundation. https://opencognitioncommons.org/ko/glossary/safety-by-design. CC-BY 4.0. 기계로 읽을 수 있는 메타데이터
{
"@context": "https://schema.org",
"@type": "DefinedTerm",
"name": "디자인으로부터의 안전성",
"description": "Safety by Design ist das Prinzip, Sicherheitsmaßnahmen für KI-Systeme von Anfang an in Design und Architektur zu integrieren — analog zu Privacy by Design, aber mit Fokus auf physische und psychische Sicherheit der Nutzer.\n",
"url": "https://opencognitioncommons.org/ko/glossary/safety-by-design",
"license": "https://creativecommons.org/licenses/by/4.0/",
"alternateName": [
"Safety by Design",
"SbD"
]
}