7. Bias Detection and Fairness Evaluation

Dieses Kapitel vertieft die entscheidende Frage der Voreingenommenheit und Fairness in maschinellen Lernsystemen, insbesondere in Bereichen mit hohem Einsatz wie Strafjustiz, Gesundheitswesen, Einstellung und Finanzen. Sie führt ein strukturiertes Rahmenwerk zum Verständnis und zur Bewertung von Vorurteilen ein, das diese in historische Verzerrungen, Repräsentation, Messung, Aggregation und Bewertung einteilt. Die mathematischen Grundlagen von Fairness-Messgrößen werden untersucht, darunter statistische Parität, ausgeglichene Chancen, Chancengleichheit, Kalibrierung und individuelle Fairness. Das Kapitel diskutiert auch das Unmöglichkeitstheorem, das die Herausforderungen der gleichzeitigen Erfüllung mehrerer Fairness-Kriterien hervorhebt. Praktische Methoden zur Erkennung von Voreingenommenheit werden skizziert, darunter Datenanalysetechniken wie Verteilungsanalyse, Korrelationsanalyse und Labelverteilungsanalyse sowie modellbasierte Erkennungsmethoden wie unterschiedliche Wirkungsanalysen, Schwellenanalysen und Tests statistischer Signifikanz. Fairness-Bewertungsrahmen, einschließlich des Fairness Tree Framework, der Stakeholder-zentrierten Evaluation und des Contextual Evaluation Framework, werden vorgestellt, um Fairness in verschiedenen Kontexten systematisch zu bewerten. Das Kapitel schließt mit einer Diskussion über Strategien zur Eindämmung von Vorurteilen, einschließlich Vorverarbeitungstechniken wie Neugewichtung und Generierung synthetischer Daten, Verarbeitungstechniken wie kontradiktorische Beschränkungen hinsichtlich Verzerrung und Fairness und Nachbearbeitungstechniken wie Schwellwertoptimierung und Kalibrierungsanpassung. Fortgeschrittene Themen wie kausale Fairness, langfristige Fairness-Dynamiken, Fairness unter Verteilungsverschiebung, erklärbares faires ML und Fairness in Gründungsmodellen werden ebenfalls untersucht und bieten eine zukunftsorientierte Perspektive auf das sich entwickelnde Feld der Fairness im maschinellen Lernen.