Interpretability vs. Explainability

Diese Begriffe werden oft verwechselt, bezeichnen aber verschiedene Konzepte:

Aspekt	Interpretability	Explainability
Fokus	Modell-Inneres	Ausgabe-Begründung
Zielgruppe	ML-Ingenieure, Forscher	Nutzer, Auditoren, Betroffene
Frage	”Wie funktioniert das Modell?"	"Warum diese Entscheidung?”
Methoden	Attention Weights, SHAP global	LIME, Counterfactuals
Modelle	Besonders für Neuronale Netze	Alle Modelltypen

Intrinsisch vs. Post-hoc

Intrinsisch interpretierbare Modelle

Das Modell selbst ist verständlich:

Lineare Regression — Koeffizienten direkt interpretierbar
Entscheidungsbaum — Pfad ist Begründung
Regelbasiertes System — explizite Wenn-Dann-Regeln

Post-hoc Interpretierbarkeit

Nachträgliche Analyse eines Black-Box-Modells:

SHAP — globale Feature-Importance
Attention Visualization — für Transformer-Modelle
Probing — versteckte Schichten analysieren
Mechanistic Interpretability — Schaltkreis-Analyse (Anthropic)

Regulatorische Relevanz

Anforderung	Regulierung	Interpretability-Aspekt
Audit-Trail	EU AI Act Art. 12	Modell-Versionen, Feature-Liste
Technische Dokumentation	EU AI Act Art. 11	Modellarchitektur, Training
Human Oversight	EU AI Act Art. 14	Outputs verstehbar für Reviewer
Bias-Prüfung	EU AI Act Art. 10	Feature-Importance nach Gruppe

Komplexitäts-Genauigkeits-Trade-off

Interpretierbarkeit
    ↑
    │  Lineare    Entscheidungs-
    │  Regression   baum
    │      
    │                    Random    Gradient
    │                    Forest    Boosting
    │                                       Neural
    │                                       Network
    └────────────────────────────────────────→ Genauigkeit

Je komplexer das Modell, desto schwieriger zu interpretieren — aber oft genauer. Für Hochrisiko-KI: Interpretierbarkeit priorisieren.

Wenn etwas interpretabel ist, kann man verstehen, wie ein KI-Modell funktioniert — z.B. wie es Werte berechnet oder Entscheidungen trifft. Dies unterscheidet sich von Explainability, das darauf abzielt, Nutzern verständliche Erklärungen zu geben.

승인됨

생성 방식: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
생성일: 2026-09-21T00:11:29.079655+00:00
기준: 쉬운 언어 ~B1 — 독일 쉬운 읽기 표준 DIN SPEC 33429 아님
검토자: zolo · 2026-09-21T00:30:10.463422+00:00

Interpretability bezieht sich auf das Verständnis der inneren Funktionsweise eines KI-Modells, einschließlich Gewichte, Aktivierungen und Entscheidungspfade. Im Gegensatz dazu richtet sich Explainability darauf, dass Erklärungen für Nutzer verständlich und zugänglich sind, während Interpretability die Fähigkeit des Modells zur Offenlegung seiner Prozesse unterstreicht.

승인됨

생성 방식: scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
생성일: 2026-09-21T00:11:29.079655+00:00
기준: 쉬운 언어 ~B1 — 독일 쉬운 읽기 표준 DIN SPEC 33429 아님
검토자: zolo · 2026-09-21T00:30:10.463422+00:00

참조

"해석 가능성 (AI)." Open Cognition Commons Foundation. https://opencognitioncommons.org/ko/glossary/interpretability. CC-BY 4.0.

기계로 읽을 수 있는 메타데이터

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "해석 가능성 (AI)",
  "description": "Interpretability bezeichnet die Fähigkeit, die interne Funktionsweise eines KI-Modells zu verstehen — Gewichte, Aktivierungen, Entscheidungspfade — im Gegensatz zur Explainability die auf verständliche Nutzer-Erklärungen zielt.\n",
  "url": "https://opencognitioncommons.org/ko/glossary/interpretability",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Interpretability",
    "Model Interpretability",
    "White-Box AI"
  ]
}