Bias (KI) bedeutet: Bias bei KI-Systemen bezeichnet systematische, unerwünschte Verzerrungen in Ausgaben oder Entscheidungen, die bestimmte Gruppen von Personen gegenüber anderen bevorzugen oder benachteiligen — oft als Folge nicht-repräsentativer Trainingsdaten oder verzerrter Systementwürfe. Das ist wichtig, weil KI-Systeme heute überall eingesetzt werden und Regeln brauchen, damit sie sicher und fair funktionieren.
Bias bei KI-Systemen bezeichnet systematische, unerwünschte Verzerrungen in Ausgaben oder Entscheidungen, die bestimmte Gruppen von Personen gegenüber anderen bevorzugen oder benachteiligen — oft als Folge nicht-repräsentativer Trainingsdaten oder verzerrter Systementwürfe. [NIST GenAI RMF] data; Ethical considerations; Legal and regulatory requirements. AI Actor Tasks: AI Deployment, AI Impact Assessment, Domain Experts, End-Users, Operation and Monitoring, TEVV MEASURE 2.10: Privacy risk of the AI system – as identified in the MAP function – is examined and documented. Action ID Sugge [EC Ethics Guidelines] several approaches and techniques, such as machine learning (of which deep learning and reinforcement learning are specific examples), machine reasoning (which includes planning, scheduling, knowledge representation and reasoning, search, and optimization), and robotics (which includes control, perc [NIST AI RMF] guide choices for AI system design, development, and deployment. Privacy-related risks may influence security, bias, and transparency and come with tradeoffs with these other characteristics. Like safety and security, specific technical features of an AI system may promote or reduce privacy. AI syst
Definition
KI-Bias (algorithmischer Bias, Verzerrung) bezeichnet systematische Fehler in KI-Systemen, die dazu führen, dass bestimmte Personengruppen ungerechtfertigt bevorzugt oder benachteiligt werden.
Wichtig: Bias ist nicht dasselbe wie Fehler. Bias ist systematisch, nicht zufällig — er trifft dieselbe Gruppe konsistent.
Quellen von Bias
1. Historischer Bias (Data Bias)
Trainingsdaten spiegeln vergangene Diskriminierungen wider.
Beispiel: Bewerbungs-KI trainiert auf historischen Einstellungsdaten bevorzugt Männer, weil diese in Vergangenheit häufiger eingestellt wurden.
2. Repräsentationsbias
Bestimmte Gruppen sind in Trainingsdaten unter- oder überrepräsentiert.
Beispiel: Gesichtserkennung mit 99% Genauigkeit auf helle Haut, aber 65% auf dunkle Haut.
3. Messbias
Die verwendeten Metriken erfassen das Zielkonstrukt ungenau oder ungleich.
4. Aggregationsbias
Ein einzelnes Modell für heterogene Gruppen mit unterschiedlichen Mustern.
5. Deployment-Bias
System wird in anderem Kontext genutzt als für den es entwickelt wurde.
Bias-Typen nach EU AI Act
EU AI Act Art. 10 Abs. 2 nennt als Qualitätskriterien für Hochrisiko-KI-Daten:
- Relevanz, Repräsentativität, Fehlerfreiheit und Vollständigkeit
- Geeignete statistische Eigenschaften — auch hinsichtlich der Personen oder Gruppen, für die das System bestimmt ist
- Prüfung auf mögliche Bias
Bias-Metriken
| Metrik | Was misst sie? |
|---|---|
| Demographic Parity | Gleiche positive Rate über Gruppen |
| Equal Opportunity | Gleiche True Positive Rate |
| Equalized Odds | Gleiche TPR und FPR |
| Individual Fairness | Ähnliche Inputs → ähnliche Outputs |
| Calibration | Wahrscheinlichkeiten korrekt über Gruppen |
Achtung: Diese Metriken sind mathematisch oft nicht gleichzeitig erfüllbar (Fairness-Unmöglichkeitssatz).
Bias-Minderung
| Phase | Maßnahme |
|---|---|
| Datenerhebung | Repräsentative Stichproben, Diverse Quellen |
| Preprocessing | Resampling, Reweighting, Disparate Impact Removal |
| Training | Adversarial Debiasing, Fairness Constraints |
| Post-processing | Threshold-Anpassung pro Gruppe, Calibration |
| Monitoring | Kontinuierliche Fairness-Metriken in Produktion |
Regulatorische Anforderungen
| Regulierung | Anforderung |
|---|---|
| EU AI Act Art. 10 | Daten-Governance, Bias-Prüfung (Hochrisiko) |
| DSGVO Art. 22 | Keine ausschließlich automatisierten diskriminierenden Entscheidungen |
| AGG (Deutschland) | Verbot von Diskriminierung in Bewerbungsverfahren |
| EU AI Act Art. 5 | Soziale Bewertungssysteme verboten |
참조
"편향 (AI)." Open Cognition Commons Foundation. https://opencognitioncommons.org/ko/glossary/bias. CC-BY 4.0. 기계로 읽을 수 있는 메타데이터
{
"@context": "https://schema.org",
"@type": "DefinedTerm",
"name": "편향 (AI)",
"description": "Bias bei KI-Systemen bezeichnet systematische, unerwünschte Verzerrungen in Ausgaben oder Entscheidungen, die bestimmte Gruppen von Personen gegenüber anderen bevorzugen oder benachteiligen — oft als Folge nicht-repräsentativer Trainingsdaten oder verzerrter Systementwürfe.\n",
"url": "https://opencognitioncommons.org/ko/glossary/bias",
"license": "https://creativecommons.org/licenses/by/4.0/",
"alternateName": [
"Bias",
"KI-Bias",
"Algorithmischer Bias",
"Verzerrung"
]
}