🟢 Plain Language

Trustworthy AI bedeutet: Trustworthy AI (vertrauenswürdige KI) bezeichnet KI-Systeme, die nach nachgewiesenen Qualitätsprinzipien entwickelt und betrieben werden: technisch zuverlässig, gesellschaftlich verträglich, rechtlich konform und für Menschen nachvollziehbar. Das ist wichtig, weil KI-Systeme heute überall eingesetzt werden und Regeln brauchen, damit sie sicher und fair funktionieren.

🔵 Expert Level

Trustworthy AI (vertrauenswürdige KI) bezeichnet KI-Systeme, die nach nachgewiesenen Qualitätsprinzipien entwickelt und betrieben werden: technisch zuverlässig, gesellschaftlich verträglich, rechtlich konform und für Menschen nachvollziehbar. [EC Ethics Guidelines] For a ny us e or reproduction of photos or other material that i s not under the EU copyri ght, permi s s i on mus t be s ought di rectl y from the copyri ght hol ders . TABLE OF CONTENTS EXECUTIVE SUMMARY 2 A. INTRODUCTION 4 B. A FRAMEWORK FOR TRUSTWORTHY AI 6 I. Chapter I: Foundations of Trustwort [EC Ethics Guidelines] address both components. The framework The Guidance in this document is provided in three chapters, from most abstract in Chapter I to most concrete in Chapter III:  Chapter I – Foundations of Trustworthy AI: sets out the foundations of Trustworthy AI by laying out its 12 fundamental-rights based a [OECD AI Principles] outcomes, both before and after their deployment. Section 2: National policies and international co-operation for trustworthy AI Members should implement national policies and international co-operation to enable a trustworthy AI ecosystem: investing in AI research and development; fostering a digit

Definition

Trustworthy AI ist das übergeordnete Ziel aller KI-Governance-Frameworks: KI-Systeme, die Menschen, Organisationen und der Gesellschaft vertrauen können und denen sie vertrauen dürfen.

NIST AI RMF — 7 Eigenschaften vertrauenswürdiger KI

Das NIST AI Risk Management Framework (2023) definiert:

Eigenschaft	Beschreibung	Prüfbar durch
Accountable	Klare Verantwortlichkeiten	Governance-Dokumentation
Explainable	Entscheidungen erklärbar	XAI-Tools, Model Cards
Interpretable	Modell-Inneres verstehbar	Feature Importance, SHAP
Privacy-Enhanced	Datenschutz by Design	DSGVO-Compliance, DSFA
Fair	Keine Diskriminierung	Bias-Tests, Fairness-Metriken
Safe	Keine unbeabsichtigten Schäden	Red-Teaming, Adversarial Tests
Secure	Widerstandsfähig gegen Angriffe	Penetration Tests

EU High-Level Expert Group — 7 Anforderungen

Die EU HLEG AI (2019, Grundlage für EU AI Act):

Menschliche Handlungsfähigkeit — KI stärkt, nicht ersetzt Entscheidungen
Technische Robustheit — sicher, zuverlässig, ausfallsicher
Datenschutz — Privacy by Design, Datensouveränität
Transparenz — nachvollziehbare Systeme, klar als KI erkennbar
Diversität & Nicht-Diskriminierung — fair, inklusiv, barrierefrei
Gesellschaftliches Wohlbefinden — positive gesellschaftliche Auswirkungen
Rechenschaftspflicht — auditierbar, Verantwortlichkeiten klar

Trustworthy AI Assessment

Praktische Werkzeuge zur Überprüfung:

Werkzeug	Herausgeber	Fokus
ALTAI	EU HLEG	Selbstbewertungs-Checkliste
AI RMF Playbook	NIST	Implementierungs-Leitfaden
Model Cards	Google	Modell-Dokumentation
Datasheets for Datasets	Microsoft/Google	Daten-Dokumentation
ISO 42001 Audit	ISO	Zertifizierung

Verhältnis zu Responsible AI

Trustworthy AI und Responsible AI überschneiden sich stark:

Trustworthy AI — stärker technisch/messbar orientiert (NIST, EU HLEG)
Responsible AI — stärker ethisch/organisatorisch orientiert (Microsoft, Google)

In der Praxis werden die Begriffe oft synonym verwendet.

Citation

"신뢰할 수 있는 AI." Open Cognition Commons Foundation. https://opencognitioncommons.org/ko/glossary/trustworthy-ai. CC-BY 4.0.

Machine-readable metadata

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "신뢰할 수 있는 AI",
  "description": "Trustworthy AI (vertrauenswürdige KI) bezeichnet KI-Systeme, die nach nachgewiesenen Qualitätsprinzipien entwickelt und betrieben werden: technisch zuverlässig, gesellschaftlich verträglich, rechtlich konform und für Menschen nachvollziehbar.\n",
  "url": "https://opencognitioncommons.org/ko/glossary/trustworthy-ai",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Trustworthy AI",
    "vertrauenswürdige KI",
    "TAI"
  ]
}