Giustizia (AI)

Definition

KI-Fairness hat keine einheitliche mathematische Definition — verschiedene Konzepte von Fairness sind je nach Kontext relevant und oft mathematisch nicht gleichzeitig erfüllbar.

Praktischer Ansatz: Fairness als Abwesenheit ungerechtfertigter Diskriminierung — definiert durch:

1. Rechtliche Anforderungen (AGG, DSGVO, EU AI Act)
2. Ethische Grundsätze
3. Messbare Metriken

Fairness-Konzepte

Gruppenbasierte Fairness

Konzept	Definition	Formel
Demographic Parity	Gleiche positive Entscheidungsrate	P(Ŷ=1|A=0) = P(Ŷ=1|A=1)
Equal Opportunity	Gleiche True Positive Rate	TPR gleich über Gruppen
Equalized Odds	Gleiche TPR und FPR	TPR und FPR gleich
Predictive Parity	Gleiche Precision	PPV gleich über Gruppen

Individuelle Fairness

Ähnliche Individuen sollen ähnlich behandelt werden.

Mathematisch schwierig zu operationalisieren — erfordert Definition von “Ähnlichkeit”.

Fairness-Unmöglichkeitssatz

Chouldechova (2017) / Kleinberg et al. (2016): Bei unterschiedlicher Basisrate zwischen Gruppen können Demographic Parity, Equal Opportunity und Predictive Parity nicht gleichzeitig erfüllt werden.

Konsequenz: Es gibt keine technisch “neutrale” KI — Fairness-Entscheidungen sind immer auch Werteentscheidungen, die explizit getroffen werden müssen.

EU AI Act und Fairness

Artikel	Anforderung
Art. 5	Verbot sozialer Bewertungssysteme und diskriminierender biometrischer Kategorisierung
Art. 10	Trainingsdaten auf Bias und Diskriminierungspotenzial prüfen
Art. 15	KI-System muss Diskriminierung durch Verwendung bestimmter Merkmale vermeiden

Fairness in der Praxis

1. Fairness-Metriken definieren (vor dem Training)

• Welche Gruppen sind besonders schutzbedürftig?
• Welches Fairness-Konzept ist für den Use Case relevant?

2. Daten auf Bias analysieren

• Repräsentationsanalyse pro Gruppe
• Historische Diskriminierungsmuster identifizieren

3. Modell-Training mit Fairness-Constraints

• Reweighting der Trainingsdaten
• Adversarial Debiasing
• Fairness-Regularisierung

4. Post-hoc Analyse

• Fairness-Metriken über alle Gruppen auswerten
• Disparate Impact Analysis

5. Kontinuierliches Monitoring

• Fairness-Metriken in Produktionsmonitoring
• Alert bei Drift

Werkzeuge

Tool	Herausgeber	Schwerpunkt
Fairlearn	Microsoft	Python, scikit-learn Integration
AIF360	IBM	70+ Fairness-Metriken
What-If Tool	Google	Visuelle Analyse
Aequitas	CMU	Audit, Bias-Report

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "Giustizia (AI)",
  "description": "KI-Fairness bezeichnet das Ziel, dass KI-Systeme keine ungerechtfertigte, diskriminierende Ungleichbehandlung von Personen oder Gruppen produzieren — gemessen an definierten Fairness-Metriken und rechtlichen Anforderungen.\n",
  "url": "https://opencognitioncommons.org/it/glossary/fairness",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Fairness",
    "KI-Fairness",
    "Algorithmic Fairness"
  ]
}