🟢 Plain Language

Wenn KI bestimmte Gruppen bevorzugt oder benachteiligt — oft weil die Trainingsdaten nicht ausgewogen waren.

🔵 Expert Level

Bias-Taxonomie: Selection Bias, Measurement Bias, Aggregation Bias, Deployment Bias. Mitigation: Pre-processing (Re-sampling), In-processing (Fairness Constraints), Post-processing (Threshold Calibration). ISO 42001 Annex A verlangt Bias-Monitoring.

Definition

KI-Bias (algorithmischer Bias, Verzerrung) bezeichnet systematische Fehler in KI-Systemen, die dazu führen, dass bestimmte Personengruppen ungerechtfertigt bevorzugt oder benachteiligt werden.

Wichtig: Bias ist nicht dasselbe wie Fehler. Bias ist systematisch, nicht zufällig — er trifft dieselbe Gruppe konsistent.

Quellen von Bias

1. Historischer Bias (Data Bias)

Trainingsdaten spiegeln vergangene Diskriminierungen wider.

Beispiel: Bewerbungs-KI trainiert auf historischen Einstellungsdaten bevorzugt Männer, weil diese in Vergangenheit häufiger eingestellt wurden.

2. Repräsentationsbias

Bestimmte Gruppen sind in Trainingsdaten unter- oder überrepräsentiert.

Beispiel: Gesichtserkennung mit 99% Genauigkeit auf helle Haut, aber 65% auf dunkle Haut.

3. Messbias

Die verwendeten Metriken erfassen das Zielkonstrukt ungenau oder ungleich.

4. Aggregationsbias

Ein einzelnes Modell für heterogene Gruppen mit unterschiedlichen Mustern.

5. Deployment-Bias

System wird in anderem Kontext genutzt als für den es entwickelt wurde.

Bias-Typen nach EU AI Act

EU AI Act Art. 10 Abs. 2 nennt als Qualitätskriterien für Hochrisiko-KI-Daten:

Relevanz, Repräsentativität, Fehlerfreiheit und Vollständigkeit
Geeignete statistische Eigenschaften — auch hinsichtlich der Personen oder Gruppen, für die das System bestimmt ist
Prüfung auf mögliche Bias

Bias-Metriken

Metrik	Was misst sie?
Demographic Parity	Gleiche positive Rate über Gruppen
Equal Opportunity	Gleiche True Positive Rate
Equalized Odds	Gleiche TPR und FPR
Individual Fairness	Ähnliche Inputs → ähnliche Outputs
Calibration	Wahrscheinlichkeiten korrekt über Gruppen

Achtung: Diese Metriken sind mathematisch oft nicht gleichzeitig erfüllbar (Fairness-Unmöglichkeitssatz).

Bias-Minderung

Phase	Maßnahme
Datenerhebung	Repräsentative Stichproben, Diverse Quellen
Preprocessing	Resampling, Reweighting, Disparate Impact Removal
Training	Adversarial Debiasing, Fairness Constraints
Post-processing	Threshold-Anpassung pro Gruppe, Calibration
Monitoring	Kontinuierliche Fairness-Metriken in Produktion

Regulatorische Anforderungen

Regulierung	Anforderung
EU AI Act Art. 10	Daten-Governance, Bias-Prüfung (Hochrisiko)
DSGVO Art. 22	Keine ausschließlich automatisierten diskriminierenden Entscheidungen
AGG (Deutschland)	Verbot von Diskriminierung in Bewerbungsverfahren
EU AI Act Art. 5	Soziale Bewertungssysteme verboten

Citação

"Bias (AI)." Open Cognition Commons Foundation. https://opencognitioncommons.org/pt/glossary/bias. CC-BY 4.0.

Metadados legíveis por máquina

{
  "@context": "https://schema.org",
  "@type": "DefinedTerm",
  "name": "Bias (AI)",
  "description": "Bias bei KI-Systemen bezeichnet systematische, unerwünschte Verzerrungen in Ausgaben oder Entscheidungen, die bestimmte Gruppen von Personen gegenüber anderen bevorzugen oder benachteiligen — oft als Folge nicht-repräsentativer Trainingsdaten oder verzerrter Systementwürfe.\n",
  "url": "https://opencognitioncommons.org/pt/glossary/bias",
  "license": "https://creativecommons.org/licenses/by/4.0/",
  "alternateName": [
    "Bias",
    "KI-Bias",
    "Algorithmischer Bias",
    "Verzerrung"
  ]
}