Fairness (KI) bedeutet: KI-Fairness bezeichnet das Ziel, dass KI-Systeme keine ungerechtfertigte, diskriminierende Ungleichbehandlung von Personen oder Gruppen produzieren — gemessen an definierten Fairness-Metriken und rechtlichen Anforderungen. Das ist wichtig, weil KI-Systeme heute überall eingesetzt werden und Regeln brauchen, damit sie sicher und fair funktionieren.
KI-Fairness bezeichnet das Ziel, dass KI-Systeme keine ungerechtfertigte, diskriminierende Ungleichbehandlung von Personen oder Gruppen produzieren — gemessen an definierten Fairness-Metriken und rechtlichen Anforderungen. [IIO Framework] Fairness: KI-Entscheidungen sollen Menschen unabhängig von Rasse, Geschlecht, Religion oder anderen geschützten Merkmalen gleichwertig behandeln. EU AI Act Annex III-Systeme müssen Fairness nachweisen. [IIO Framework] Responsible AI: Konzept der verantwortungsvollen KI-Entwicklung und -Nutzung. Kern-Prinzipien: Fairness, Transparenz, Rechenschaftspflicht, Sicherheit, Privacy, Inklusion. Basis für AI Governance Frameworks. [EC Ethics Guidelines] must be able to keep full and effective self - determination over themselves, and be able to partake in the democratic process. AI systems should not unjustifiably subordinate, coerce, deceive, manipulate, condition or herd humans. Instead, they should be designed to augment, complement and empower
Definition
KI-Fairness hat keine einheitliche mathematische Definition — verschiedene Konzepte von Fairness sind je nach Kontext relevant und oft mathematisch nicht gleichzeitig erfüllbar.
Praktischer Ansatz: Fairness als Abwesenheit ungerechtfertigter Diskriminierung — definiert durch:
- Rechtliche Anforderungen (AGG, DSGVO, EU AI Act)
- Ethische Grundsätze
- Messbare Metriken
Fairness-Konzepte
Gruppenbasierte Fairness
| Konzept | Definition | Formel |
|---|---|---|
| Demographic Parity | Gleiche positive Entscheidungsrate | P(Ŷ=1|A=0) = P(Ŷ=1|A=1) |
| Equal Opportunity | Gleiche True Positive Rate | TPR gleich über Gruppen |
| Equalized Odds | Gleiche TPR und FPR | TPR und FPR gleich |
| Predictive Parity | Gleiche Precision | PPV gleich über Gruppen |
Individuelle Fairness
Ähnliche Individuen sollen ähnlich behandelt werden.
Mathematisch schwierig zu operationalisieren — erfordert Definition von “Ähnlichkeit”.
Fairness-Unmöglichkeitssatz
Chouldechova (2017) / Kleinberg et al. (2016): Bei unterschiedlicher Basisrate zwischen Gruppen können Demographic Parity, Equal Opportunity und Predictive Parity nicht gleichzeitig erfüllt werden.
Konsequenz: Es gibt keine technisch “neutrale” KI — Fairness-Entscheidungen sind immer auch Werteentscheidungen, die explizit getroffen werden müssen.
EU AI Act und Fairness
| Artikel | Anforderung |
|---|---|
| Art. 5 | Verbot sozialer Bewertungssysteme und diskriminierender biometrischer Kategorisierung |
| Art. 10 | Trainingsdaten auf Bias und Diskriminierungspotenzial prüfen |
| Art. 15 | KI-System muss Diskriminierung durch Verwendung bestimmter Merkmale vermeiden |
Fairness in der Praxis
1. Fairness-Metriken definieren (vor dem Training)
- Welche Gruppen sind besonders schutzbedürftig?
- Welches Fairness-Konzept ist für den Use Case relevant?
2. Daten auf Bias analysieren
- Repräsentationsanalyse pro Gruppe
- Historische Diskriminierungsmuster identifizieren
3. Modell-Training mit Fairness-Constraints
- Reweighting der Trainingsdaten
- Adversarial Debiasing
- Fairness-Regularisierung
4. Post-hoc Analyse
- Fairness-Metriken über alle Gruppen auswerten
- Disparate Impact Analysis
5. Kontinuierliches Monitoring
- Fairness-Metriken in Produktionsmonitoring
- Alert bei Drift
Werkzeuge
| Tool | Herausgeber | Schwerpunkt |
|---|---|---|
| Fairlearn | Microsoft | Python, scikit-learn Integration |
| AIF360 | IBM | 70+ Fairness-Metriken |
| What-If Tool | Visuelle Analyse | |
| Aequitas | CMU | Audit, Bias-Report |
Citation
"공정성 (AI)." Open Cognition Commons Foundation. https://opencognitioncommons.org/ko/glossary/fairness. CC-BY 4.0. Machine-readable metadata
{
"@context": "https://schema.org",
"@type": "DefinedTerm",
"name": "공정성 (AI)",
"description": "KI-Fairness bezeichnet das Ziel, dass KI-Systeme keine ungerechtfertigte, diskriminierende Ungleichbehandlung von Personen oder Gruppen produzieren — gemessen an definierten Fairness-Metriken und rechtlichen Anforderungen.\n",
"url": "https://opencognitioncommons.org/ko/glossary/fairness",
"license": "https://creativecommons.org/licenses/by/4.0/",
"alternateName": [
"Fairness",
"KI-Fairness",
"Algorithmic Fairness"
]
}