🟢 Plain Language

KI die man sich wirklich verlassen kann — weil sie sicher, fair, transparent und menschlich kontrollierbar ist.

🔵 Expert Level

Trustworthy AI nach EU AI HLEG (2019): 7 Schlüsselanforderungen — Human Agency, Technical Robustness, Privacy+Data Governance, Transparency, Diversity+Fairness, Societal Wellbeing, Accountability. Assessment List for Trustworthy AI (ALTAI) als Self-Assessment-Tool. Trustworthy AI ist das Leitbild des EU AI Act und der OECD AI Principles.

Definition

Trustworthy AI ist das übergeordnete Ziel aller KI-Governance-Frameworks: KI-Systeme, die Menschen, Organisationen und der Gesellschaft vertrauen können und denen sie vertrauen dürfen.

NIST AI RMF — 7 Eigenschaften vertrauenswürdiger KI

Das NIST AI Risk Management Framework (2023) definiert:

Eigenschaft	Beschreibung	Prüfbar durch
Accountable	Klare Verantwortlichkeiten	Governance-Dokumentation
Explainable	Entscheidungen erklärbar	XAI-Tools, Model Cards
Interpretable	Modell-Inneres verstehbar	Feature Importance, SHAP
Privacy-Enhanced	Datenschutz by Design	DSGVO-Compliance, DSFA
Fair	Keine Diskriminierung	Bias-Tests, Fairness-Metriken
Safe	Keine unbeabsichtigten Schäden	Red-Teaming, Adversarial Tests
Secure	Widerstandsfähig gegen Angriffe	Penetration Tests

EU High-Level Expert Group — 7 Anforderungen

Die EU HLEG AI (2019, Grundlage für EU AI Act):

Menschliche Handlungsfähigkeit — KI stärkt, nicht ersetzt Entscheidungen
Technische Robustheit — sicher, zuverlässig, ausfallsicher
Datenschutz — Privacy by Design, Datensouveränität
Transparenz — nachvollziehbare Systeme, klar als KI erkennbar
Diversität & Nicht-Diskriminierung — fair, inklusiv, barrierefrei
Gesellschaftliches Wohlbefinden — positive gesellschaftliche Auswirkungen
Rechenschaftspflicht — auditierbar, Verantwortlichkeiten klar

Trustworthy AI Assessment

Praktische Werkzeuge zur Überprüfung:

Werkzeug	Herausgeber	Fokus
ALTAI	EU HLEG	Selbstbewertungs-Checkliste
AI RMF Playbook	NIST	Implementierungs-Leitfaden
Model Cards	Google	Modell-Dokumentation
Datasheets for Datasets	Microsoft/Google	Daten-Dokumentation
ISO 42001 Audit	ISO	Zertifizierung

Verhältnis zu Responsible AI

Trustworthy AI und Responsible AI überschneiden sich stark:

Trustworthy AI — stärker technisch/messbar orientiert (NIST, EU HLEG)
Responsible AI — stärker ethisch/organisatorisch orientiert (Microsoft, Google)

In der Praxis werden die Begriffe oft synonym verwendet.

Cytowanie

"Trustworthy AI." Open Cognition Commons Foundation. https://opencognitioncommons.org/pl/glossary/trustworthy-ai. CC-BY 4.0.

Metadane czytelne maszynowo

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "Trustworthy AI",
  "description": "Trustworthy AI (vertrauenswürdige KI) bezeichnet KI-Systeme, die nach nachgewiesenen Qualitätsprinzipien entwickelt und betrieben werden: technisch zuverlässig, gesellschaftlich verträglich, rechtlich konform und für Menschen nachvollziehbar.\n",
  "url": "https://opencognitioncommons.org/pl/glossary/trustworthy-ai",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Trustworthy AI",
    "vertrauenswürdige KI",
    "TAI"
  ]
}