Definition

Trustworthy AI ist das übergeordnete Ziel aller KI-Governance-Frameworks: KI-Systeme, die Menschen, Organisationen und der Gesellschaft vertrauen können und denen sie vertrauen dürfen.

NIST AI RMF — 7 Eigenschaften vertrauenswürdiger KI

Das NIST AI Risk Management Framework (2023) definiert:

Eigenschaft	Beschreibung	Prüfbar durch
Accountable	Klare Verantwortlichkeiten	Governance-Dokumentation
Explainable	Entscheidungen erklärbar	XAI-Tools, Model Cards
Interpretable	Modell-Inneres verstehbar	Feature Importance, SHAP
Privacy-Enhanced	Datenschutz by Design	DSGVO-Compliance, DSFA
Fair	Keine Diskriminierung	Bias-Tests, Fairness-Metriken
Safe	Keine unbeabsichtigten Schäden	Red-Teaming, Adversarial Tests
Secure	Widerstandsfähig gegen Angriffe	Penetration Tests

EU High-Level Expert Group — 7 Anforderungen

Die EU HLEG AI (2019, Grundlage für EU AI Act):

Menschliche Handlungsfähigkeit — KI stärkt, nicht ersetzt Entscheidungen
Technische Robustheit — sicher, zuverlässig, ausfallsicher
Datenschutz — Privacy by Design, Datensouveränität
Transparenz — nachvollziehbare Systeme, klar als KI erkennbar
Diversität & Nicht-Diskriminierung — fair, inklusiv, barrierefrei
Gesellschaftliches Wohlbefinden — positive gesellschaftliche Auswirkungen
Rechenschaftspflicht — auditierbar, Verantwortlichkeiten klar

Trustworthy AI Assessment

Praktische Werkzeuge zur Überprüfung:

Werkzeug	Herausgeber	Fokus
ALTAI	EU HLEG	Selbstbewertungs-Checkliste
AI RMF Playbook	NIST	Implementierungs-Leitfaden
Model Cards	Google	Modell-Dokumentation
Datasheets for Datasets	Microsoft/Google	Daten-Dokumentation
ISO 42001 Audit	ISO	Zertifizierung

Verhältnis zu Responsible AI

Trustworthy AI und Responsible AI überschneiden sich stark:

Trustworthy AI — stärker technisch/messbar orientiert (NIST, EU HLEG)
Responsible AI — stärker ethisch/organisatorisch orientiert (Microsoft, Google)

In der Praxis werden die Begriffe oft synonym verwendet.

Wenn etwas vertrauenswürdige KI ist, funktioniert es stabil und sicher. Es passt gut in unsere Gesellschaft und befolgt die Regeln. Menschen können verstehen, wie es arbeitet.

Approvato

Generato da: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
Generato il: 2026-09-21T00:11:29.079655+00:00
Norma: Linguaggio semplice ~B1 — non la norma tedesca di lettura facile DIN SPEC 33429
Verificato da: zolo · 2026-09-21T00:30:10.463422+00:00

Trustworthy AI (vertrauenswürdige KI) umfasst KI-Systeme, die auf präzisen Qualitätsstandards basieren, insbesondere in Bezug auf technische Zuverlässigkeit, gesellschaftliche Akzeptanz, rechtliche Einhaltung und menschlichen Verständigung.

Approvato

Generato da: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
Generato il: 2026-09-21T00:11:29.079655+00:00
Norma: Linguaggio semplice ~B1 — non la norma tedesca di lettura facile DIN SPEC 33429
Verificato da: zolo · 2026-09-21T00:30:10.463422+00:00

Citazione

"Verifica AI." Open Cognition Commons Foundation. https://opencognitioncommons.org/it/glossary/trustworthy-ai. CC-BY 4.0.

Metadati leggibili dalla macchina

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "Verifica AI",
  "description": "Trustworthy AI (vertrauenswürdige KI) bezeichnet KI-Systeme, die nach nachgewiesenen Qualitätsprinzipien entwickelt und betrieben werden: technisch zuverlässig, gesellschaftlich verträglich, rechtlich konform und für Menschen nachvollziehbar.\n",
  "url": "https://opencognitioncommons.org/it/glossary/trustworthy-ai",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Trustworthy AI",
    "vertrauenswürdige KI",
    "TAI"
  ]
}