🟢 Plain Language

Sicherheit von Anfang an in KI-Systeme einbauen — nicht als Nachgedanke wenn das System schon läuft.

🔵 Expert Level

Safety by Design als Engineering-Prinzip analog zu Privacy by Design (DSGVO Art. 25). Technische Maßnahmen: Formal Verification, Adversarial Training, Red Teaming, Fail-Closed-Defaults, Kill-Switches. EU AI Act Art. 9(2)(c): Risikominimierung durch Safety-by-Design als Pflicht für Hochrisiko-KI. NIST AI RMF: GOVERN 1.7 — Safety-by-Design in Entwicklungsprozessen.

Definition

Safety by Design bedeutet: Sicherheit ist keine nachträgliche Ergänzung, sondern strukturelles Merkmal eines KI-Systems von Anfang an.

Vergleich mit Privacy by Design

	Safety by Design	Privacy by Design
Fokus	Sicherheit, Schadensvermeidung	Datenschutz
Rechtsgrundlage	EU AI Act Art. 15	DSGVO Art. 25
Kernanliegen	Physische/psychische Integrität	Informationelle Selbstbestimmung

Safety-by-Design-Prinzipien für KI

Fail-Closed — Bei Unsicherheit: Stop, nicht Weitermachen
Defense in Depth — Mehrere unabhängige Sicherheitsschichten
Minimal Footprint — Nur nötige Berechtigungen, kein Over-Reach
Human Override — Mensch kann immer eingreifen
Transparency by Default — Standardmäßig erklärbar
Testing Before Deployment — Sandbox, Red-Teaming, Adversarial Tests

EU AI Act Art. 15

Für Hochrisiko-KI:

Genauigkeit — Dokumentierte Performance-Metriken
Robustheit — Resilienz gegen Angriffe und Fehleingaben
Cybersicherheit — Schutz vor adversariellen Manipulationen

引用

"Safety by Design (AI)." Open Cognition Commons Foundation. https://opencognitioncommons.org/zh/glossary/safety-by-design. CC-BY 4.0.

机器可读元数据

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "Safety by Design (AI)",
  "description": "Safety by Design ist das Prinzip, Sicherheitsmaßnahmen für KI-Systeme von Anfang an in Design und Architektur zu integrieren — analog zu Privacy by Design, aber mit Fokus auf physische und psychische Sicherheit der Nutzer.\n",
  "url": "https://opencognitioncommons.org/zh/glossary/safety-by-design",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Safety by Design",
    "SbD"
  ]
}