🟢 Plain Language

KI behandelt alle Menschen gleich — unabhängig von Geschlecht, Herkunft oder Alter.

🔵 Expert Level

Fairness-Metriken sind mathematisch unvereinbar (Impossibility Theorem): Demographic Parity vs. Equalized Odds vs. Calibration. Kontext bestimmt welche Metrik gilt. EU AI Act fordert Grundrechtefolgeabschätzung bei Hochrisiko-KI.

Definition

KI-Fairness hat keine einheitliche mathematische Definition — verschiedene Konzepte von Fairness sind je nach Kontext relevant und oft mathematisch nicht gleichzeitig erfüllbar.

Praktischer Ansatz: Fairness als Abwesenheit ungerechtfertigter Diskriminierung — definiert durch:

Rechtliche Anforderungen (AGG, DSGVO, EU AI Act)
Ethische Grundsätze
Messbare Metriken

Fairness-Konzepte

Gruppenbasierte Fairness

Konzept	Definition	Formel
Demographic Parity	Gleiche positive Entscheidungsrate	P(Ŷ=1\|A=0) = P(Ŷ=1\|A=1)
Equal Opportunity	Gleiche True Positive Rate	TPR gleich über Gruppen
Equalized Odds	Gleiche TPR und FPR	TPR und FPR gleich
Predictive Parity	Gleiche Precision	PPV gleich über Gruppen

Individuelle Fairness

Ähnliche Individuen sollen ähnlich behandelt werden.

Mathematisch schwierig zu operationalisieren — erfordert Definition von “Ähnlichkeit”.

Fairness-Unmöglichkeitssatz

Chouldechova (2017) / Kleinberg et al. (2016): Bei unterschiedlicher Basisrate zwischen Gruppen können Demographic Parity, Equal Opportunity und Predictive Parity nicht gleichzeitig erfüllt werden.

Konsequenz: Es gibt keine technisch “neutrale” KI — Fairness-Entscheidungen sind immer auch Werteentscheidungen, die explizit getroffen werden müssen.

EU AI Act und Fairness

Artikel	Anforderung
Art. 5	Verbot sozialer Bewertungssysteme und diskriminierender biometrischer Kategorisierung
Art. 10	Trainingsdaten auf Bias und Diskriminierungspotenzial prüfen
Art. 15	KI-System muss Diskriminierung durch Verwendung bestimmter Merkmale vermeiden

Fairness in der Praxis

1. Fairness-Metriken definieren (vor dem Training)

Welche Gruppen sind besonders schutzbedürftig?
Welches Fairness-Konzept ist für den Use Case relevant?

2. Daten auf Bias analysieren

Repräsentationsanalyse pro Gruppe
Historische Diskriminierungsmuster identifizieren

3. Modell-Training mit Fairness-Constraints

Reweighting der Trainingsdaten
Adversarial Debiasing
Fairness-Regularisierung

4. Post-hoc Analyse

Fairness-Metriken über alle Gruppen auswerten
Disparate Impact Analysis

5. Kontinuierliches Monitoring

Fairness-Metriken in Produktionsmonitoring
Alert bei Drift

Werkzeuge

Tool	Herausgeber	Schwerpunkt
Fairlearn	Microsoft	Python, scikit-learn Integration
AIF360	IBM	70+ Fairness-Metriken
What-If Tool	Google	Visuelle Analyse
Aequitas	CMU	Audit, Bias-Report

引用

"Fairness (AI)." Open Cognition Commons Foundation. https://opencognitioncommons.org/zh/glossary/fairness. CC-BY 4.0.

机器可读元数据

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "Fairness (AI)",
  "description": "KI-Fairness bezeichnet das Ziel, dass KI-Systeme keine ungerechtfertigte, diskriminierende Ungleichbehandlung von Personen oder Gruppen produzieren — gemessen an definierten Fairness-Metriken und rechtlichen Anforderungen.\n",
  "url": "https://opencognitioncommons.org/zh/glossary/fairness",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Fairness",
    "KI-Fairness",
    "Algorithmic Fairness"
  ]
}