KI behandelt alle Menschen gleich — unabhängig von Geschlecht, Herkunft oder Alter.
Fairness-Metriken sind mathematisch unvereinbar (Impossibility Theorem): Demographic Parity vs. Equalized Odds vs. Calibration. Kontext bestimmt welche Metrik gilt. EU AI Act fordert Grundrechtefolgeabschätzung bei Hochrisiko-KI.
Definition
KI-Fairness hat keine einheitliche mathematische Definition — verschiedene Konzepte von Fairness sind je nach Kontext relevant und oft mathematisch nicht gleichzeitig erfüllbar.
Praktischer Ansatz: Fairness als Abwesenheit ungerechtfertigter Diskriminierung — definiert durch:
- Rechtliche Anforderungen (AGG, DSGVO, EU AI Act)
- Ethische Grundsätze
- Messbare Metriken
Fairness-Konzepte
Gruppenbasierte Fairness
| Konzept | Definition | Formel |
|---|---|---|
| Demographic Parity | Gleiche positive Entscheidungsrate | P(Ŷ=1|A=0) = P(Ŷ=1|A=1) |
| Equal Opportunity | Gleiche True Positive Rate | TPR gleich über Gruppen |
| Equalized Odds | Gleiche TPR und FPR | TPR und FPR gleich |
| Predictive Parity | Gleiche Precision | PPV gleich über Gruppen |
Individuelle Fairness
Ähnliche Individuen sollen ähnlich behandelt werden.
Mathematisch schwierig zu operationalisieren — erfordert Definition von “Ähnlichkeit”.
Fairness-Unmöglichkeitssatz
Chouldechova (2017) / Kleinberg et al. (2016): Bei unterschiedlicher Basisrate zwischen Gruppen können Demographic Parity, Equal Opportunity und Predictive Parity nicht gleichzeitig erfüllt werden.
Konsequenz: Es gibt keine technisch “neutrale” KI — Fairness-Entscheidungen sind immer auch Werteentscheidungen, die explizit getroffen werden müssen.
EU AI Act und Fairness
| Artikel | Anforderung |
|---|---|
| Art. 5 | Verbot sozialer Bewertungssysteme und diskriminierender biometrischer Kategorisierung |
| Art. 10 | Trainingsdaten auf Bias und Diskriminierungspotenzial prüfen |
| Art. 15 | KI-System muss Diskriminierung durch Verwendung bestimmter Merkmale vermeiden |
Fairness in der Praxis
1. Fairness-Metriken definieren (vor dem Training)
- Welche Gruppen sind besonders schutzbedürftig?
- Welches Fairness-Konzept ist für den Use Case relevant?
2. Daten auf Bias analysieren
- Repräsentationsanalyse pro Gruppe
- Historische Diskriminierungsmuster identifizieren
3. Modell-Training mit Fairness-Constraints
- Reweighting der Trainingsdaten
- Adversarial Debiasing
- Fairness-Regularisierung
4. Post-hoc Analyse
- Fairness-Metriken über alle Gruppen auswerten
- Disparate Impact Analysis
5. Kontinuierliches Monitoring
- Fairness-Metriken in Produktionsmonitoring
- Alert bei Drift
Werkzeuge
| Tool | Herausgeber | Schwerpunkt |
|---|---|---|
| Fairlearn | Microsoft | Python, scikit-learn Integration |
| AIF360 | IBM | 70+ Fairness-Metriken |
| What-If Tool | Visuelle Analyse | |
| Aequitas | CMU | Audit, Bias-Report |
Citação
"Fairness (AI)." Open Cognition Commons Foundation. https://opencognitioncommons.org/pt/glossary/fairness. CC-BY 4.0. Metadados legíveis por máquina
{
"@context": "https://schema.org",
"@type": "DefinedTerm",
"name": "Fairness (AI)",
"description": "KI-Fairness bezeichnet das Ziel, dass KI-Systeme keine ungerechtfertigte, diskriminierende Ungleichbehandlung von Personen oder Gruppen produzieren — gemessen an definierten Fairness-Metriken und rechtlichen Anforderungen.\n",
"url": "https://opencognitioncommons.org/pt/glossary/fairness",
"license": "https://creativecommons.org/licenses/by/4.0/",
"alternateName": [
"Fairness",
"KI-Fairness",
"Algorithmic Fairness"
]
}