Definition
KI-Bias (algorithmischer Bias, Verzerrung) bezeichnet systematische Fehler in KI-Systemen, die dazu führen, dass bestimmte Personengruppen ungerechtfertigt bevorzugt oder benachteiligt werden.
Wichtig: Bias ist nicht dasselbe wie Fehler. Bias ist systematisch, nicht zufällig — er trifft dieselbe Gruppe konsistent.
Quellen von Bias
1. Historischer Bias (Data Bias)
Trainingsdaten spiegeln vergangene Diskriminierungen wider.
Beispiel: Bewerbungs-KI trainiert auf historischen Einstellungsdaten bevorzugt Männer, weil diese in Vergangenheit häufiger eingestellt wurden.
2. Repräsentationsbias
Bestimmte Gruppen sind in Trainingsdaten unter- oder überrepräsentiert.
Beispiel: Gesichtserkennung mit 99% Genauigkeit auf helle Haut, aber 65% auf dunkle Haut.
3. Messbias
Die verwendeten Metriken erfassen das Zielkonstrukt ungenau oder ungleich.
4. Aggregationsbias
Ein einzelnes Modell für heterogene Gruppen mit unterschiedlichen Mustern.
5. Deployment-Bias
System wird in anderem Kontext genutzt als für den es entwickelt wurde.
Bias-Typen nach EU AI Act
EU AI Act Art. 10 Abs. 2 nennt als Qualitätskriterien für Hochrisiko-KI-Daten:
- Relevanz, Repräsentativität, Fehlerfreiheit und Vollständigkeit
- Geeignete statistische Eigenschaften — auch hinsichtlich der Personen oder Gruppen, für die das System bestimmt ist
- Prüfung auf mögliche Bias
Bias-Metriken
| Metrik | Was misst sie? |
|---|---|
| Demographic Parity | Gleiche positive Rate über Gruppen |
| Equal Opportunity | Gleiche True Positive Rate |
| Equalized Odds | Gleiche TPR und FPR |
| Individual Fairness | Ähnliche Inputs → ähnliche Outputs |
| Calibration | Wahrscheinlichkeiten korrekt über Gruppen |
Achtung: Diese Metriken sind mathematisch oft nicht gleichzeitig erfüllbar (Fairness-Unmöglichkeitssatz).
Bias-Minderung
| Phase | Maßnahme |
|---|---|
| Datenerhebung | Repräsentative Stichproben, Diverse Quellen |
| Preprocessing | Resampling, Reweighting, Disparate Impact Removal |
| Training | Adversarial Debiasing, Fairness Constraints |
| Post-processing | Threshold-Anpassung pro Gruppe, Calibration |
| Monitoring | Kontinuierliche Fairness-Metriken in Produktion |
Regulatorische Anforderungen
| Regulierung | Anforderung |
|---|---|
| EU AI Act Art. 10 | Daten-Governance, Bias-Prüfung (Hochrisiko) |
| DSGVO Art. 22 | Keine ausschließlich automatisierten diskriminierenden Entscheidungen |
| AGG (Deutschland) | Verbot von Diskriminierung in Bewerbungsverfahren |
| EU AI Act Art. 5 | Soziale Bewertungssysteme verboten |
Systematische Verzerrungen in KI-Ausgaben bevorzugen bestimmte Gruppen und benachteiligen andere — oft wegen nicht-repräsentativer Trainingsdaten.
- Généré par
- scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
- Généré le
- 2026-09-21T00:11:29.079655+00:00
- Norme
- Langage simple ~B1 — pas la norme allemande de lecture facile DIN SPEC 33429
- Vérifié par
- zolo · 2026-09-21T00:30:10.463422+00:00
Bias in KI-Systemen manifestiert sich durch systematische, unerwünschte Verzerrungen in den Ausgaben und Entscheidungen, die bestimmte Gruppen von Personen bevorzugen oder benachteiligen. Dies kann auf nicht-repräsentative Trainingsdaten oder fehlgeleitete Systementwürfe zur Folge haben.
- Généré par
- scripts/generate-glossary-register-variants.py (qwen2.5:7b (lokal via Ollama, kein Cloud-Fallback))
- Généré le
- 2026-09-21T00:11:29.079655+00:00
- Norme
- Langage simple ~B1 — pas la norme allemande de lecture facile DIN SPEC 33429
- Vérifié par
- zolo · 2026-09-21T00:30:10.463422+00:00
Citation
"Biais (IA)." Open Cognition Commons Foundation. https://opencognitioncommons.org/fr/glossary/bias. CC-BY 4.0. Métadonnées lisibles par machine
{
"@context": "https://schema.org",
"@type": "DefinedTerm",
"name": "Biais (IA)",
"description": "Bias bei KI-Systemen bezeichnet systematische, unerwünschte Verzerrungen in Ausgaben oder Entscheidungen, die bestimmte Gruppen von Personen gegenüber anderen bevorzugen oder benachteiligen — oft als Folge nicht-repräsentativer Trainingsdaten oder verzerrter Systementwürfe.\n",
"url": "https://opencognitioncommons.org/fr/glossary/bias",
"license": "https://creativecommons.org/licenses/by/4.0/",
"alternateName": [
"Bias",
"KI-Bias",
"Algorithmischer Bias",
"Verzerrung"
]
}