🟢 Plain Language

Safety by Design (KI) bedeutet: Safety by Design ist das Prinzip, Sicherheitsmaßnahmen für KI-Systeme von Anfang an in Design und Architektur zu integrieren — analog zu Privacy by Design, aber mit Fokus auf physische und psychische Sicherheit der Nutzer. Das ist wichtig, weil KI-Systeme heute überall eingesetzt werden und Regeln brauchen, damit sie sicher und fair funktionieren.

🔵 Expert Level

Safety by Design ist das Prinzip, Sicherheitsmaßnahmen für KI-Systeme von Anfang an in Design und Architektur zu integrieren — analog zu Privacy by Design, aber mit Fokus auf physische und psychische Sicherheit der Nutzer. [NIST AI RMF] functionality in a broad set of conditions and circumstances, including uses of AI systems not initially anticipated. Robustness requires not only that the system perform exactly as it does under expected uses, but also that it should perform in ways that minimize potential harms to people if it is [NIST GenAI RMF] GV-2.1-004 Dangerous, Violent, or Hateful professionals in mapping, measuring, and managing those risks. Content; Information Security Create mechanisms to provide protections for whistleblowers who report, based CBRN Information or Capabilities; on reasonable belief, when the organization violates [EC Ethics Guidelines] on the implementation and realisation of Trustworthy AI, via a list of seven requirements that should be met, building on the principles outlined in Chapter I. In addition, available technical and non-technical methods are introduced for the implementation of these requirements throughout the AI sys

Definition

Safety by Design bedeutet: Sicherheit ist keine nachträgliche Ergänzung, sondern strukturelles Merkmal eines KI-Systems von Anfang an.

Vergleich mit Privacy by Design

	Safety by Design	Privacy by Design
Fokus	Sicherheit, Schadensvermeidung	Datenschutz
Rechtsgrundlage	EU AI Act Art. 15	DSGVO Art. 25
Kernanliegen	Physische/psychische Integrität	Informationelle Selbstbestimmung

Safety-by-Design-Prinzipien für KI

Fail-Closed — Bei Unsicherheit: Stop, nicht Weitermachen
Defense in Depth — Mehrere unabhängige Sicherheitsschichten
Minimal Footprint — Nur nötige Berechtigungen, kein Over-Reach
Human Override — Mensch kann immer eingreifen
Transparency by Default — Standardmäßig erklärbar
Testing Before Deployment — Sandbox, Red-Teaming, Adversarial Tests

EU AI Act Art. 15

Für Hochrisiko-KI:

Genauigkeit — Dokumentierte Performance-Metriken
Robustheit — Resilienz gegen Angriffe und Fehleingaben
Cybersicherheit — Schutz vor adversariellen Manipulationen

Citation

"디자인으로부터의 안전성." Open Cognition Commons Foundation. https://opencognitioncommons.org/ko/glossary/safety-by-design. CC-BY 4.0.

Machine-readable metadata

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "디자인으로부터의 안전성",
  "description": "Safety by Design ist das Prinzip, Sicherheitsmaßnahmen für KI-Systeme von Anfang an in Design und Architektur zu integrieren — analog zu Privacy by Design, aber mit Fokus auf physische und psychische Sicherheit der Nutzer.\n",
  "url": "https://opencognitioncommons.org/ko/glossary/safety-by-design",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Safety by Design",
    "SbD"
  ]
}