Definition
KI-Fairness hat keine einheitliche mathematische Definition — verschiedene Konzepte von Fairness sind je nach Kontext relevant und oft mathematisch nicht gleichzeitig erfüllbar.
Praktischer Ansatz: Fairness als Abwesenheit ungerechtfertigter Diskriminierung — definiert durch:
- Rechtliche Anforderungen (AGG, DSGVO, EU AI Act)
- Ethische Grundsätze
- Messbare Metriken
Fairness-Konzepte
Gruppenbasierte Fairness
| Konzept | Definition | Formel |
|---|---|---|
| Demographic Parity | Gleiche positive Entscheidungsrate | P(Ŷ=1|A=0) = P(Ŷ=1|A=1) |
| Equal Opportunity | Gleiche True Positive Rate | TPR gleich über Gruppen |
| Equalized Odds | Gleiche TPR und FPR | TPR und FPR gleich |
| Predictive Parity | Gleiche Precision | PPV gleich über Gruppen |
Individuelle Fairness
Ähnliche Individuen sollen ähnlich behandelt werden.
Mathematisch schwierig zu operationalisieren — erfordert Definition von “Ähnlichkeit”.
Fairness-Unmöglichkeitssatz
Chouldechova (2017) / Kleinberg et al. (2016): Bei unterschiedlicher Basisrate zwischen Gruppen können Demographic Parity, Equal Opportunity und Predictive Parity nicht gleichzeitig erfüllt werden.
Konsequenz: Es gibt keine technisch “neutrale” KI — Fairness-Entscheidungen sind immer auch Werteentscheidungen, die explizit getroffen werden müssen.
EU AI Act und Fairness
| Artikel | Anforderung |
|---|---|
| Art. 5 | Verbot sozialer Bewertungssysteme und diskriminierender biometrischer Kategorisierung |
| Art. 10 | Trainingsdaten auf Bias und Diskriminierungspotenzial prüfen |
| Art. 15 | KI-System muss Diskriminierung durch Verwendung bestimmter Merkmale vermeiden |
Fairness in der Praxis
1. Fairness-Metriken definieren (vor dem Training)
- Welche Gruppen sind besonders schutzbedürftig?
- Welches Fairness-Konzept ist für den Use Case relevant?
2. Daten auf Bias analysieren
- Repräsentationsanalyse pro Gruppe
- Historische Diskriminierungsmuster identifizieren
3. Modell-Training mit Fairness-Constraints
- Reweighting der Trainingsdaten
- Adversarial Debiasing
- Fairness-Regularisierung
4. Post-hoc Analyse
- Fairness-Metriken über alle Gruppen auswerten
- Disparate Impact Analysis
5. Kontinuierliches Monitoring
- Fairness-Metriken in Produktionsmonitoring
- Alert bei Drift
Werkzeuge
| Tool | Herausgeber | Schwerpunkt |
|---|---|---|
| Fairlearn | Microsoft | Python, scikit-learn Integration |
| AIF360 | IBM | 70+ Fairness-Metriken |
| What-If Tool | Visuelle Analyse | |
| Aequitas | CMU | Audit, Bias-Report |
Wenn ein KI-System fair ist, behandelt es alle Menschen gleichberechtigt und ohne Diskriminierung. Es muss nach gesetzlichen Vorschriften und Fairness-Maßstäben prüft, ob es ungerechte Behandlung vermeidet.
- Gerado por
- scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
- Gerado em
- 2026-09-21T00:11:29.079655+00:00
- Norma
- Linguagem simples ~B1 — não a norma alemã de leitura fácil DIN SPEC 33429
- Revisado por
- zolo · 2026-09-21T00:30:10.463422+00:00
KI-Fairness verfolgt das Ziel, dass KI-Systeme keine ungerechtfertigte Diskriminierung von Individuen oder Gruppen basierend auf geschlechtlichem Geschlecht, Rasse, Alter oder anderen unveränderbaren Merkmalen durchführen. Dies muss anhand spezifischer Fairness-Metriken und rechtlicher Vorschriften bewertet werden.
- Gerado por
- scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
- Gerado em
- 2026-09-21T00:11:29.079655+00:00
- Norma
- Linguagem simples ~B1 — não a norma alemã de leitura fácil DIN SPEC 33429
- Revisado por
- zolo · 2026-09-21T00:30:10.463422+00:00
Citação
"Justiça (KI)." Open Cognition Commons Foundation. https://opencognitioncommons.org/pt/glossary/fairness. CC-BY 4.0. Metadados legíveis por máquina
{
"@context": "https://schema.org",
"@type": "DefinedTerm",
"name": "Justiça (KI)",
"description": "KI-Fairness bezeichnet das Ziel, dass KI-Systeme keine ungerechtfertigte, diskriminierende Ungleichbehandlung von Personen oder Gruppen produzieren — gemessen an definierten Fairness-Metriken und rechtlichen Anforderungen.\n",
"url": "https://opencognitioncommons.org/pt/glossary/fairness",
"license": "https://creativecommons.org/licenses/by/4.0/",
"alternateName": [
"Fairness",
"KI-Fairness",
"Algorithmic Fairness"
]
}