Studying Bias in GANs Through the Lens of Race

Das Kapitel geht dem Problem der rassischen Voreingenommenheit in Generative Adversarial Networks (GANs) nach und konzentriert sich insbesondere auf die wahrgenommene Rasse als Linse, um Voreingenommenheit zu untersuchen. Es führt drei Arten von Bias ein - Datenverteilungsbias, symmetrischer algorithmischer Bias und asymmetrischer algorithmischer Bias - und führt Experimente durch, um die Auswirkungen des Ungleichgewichts der Datensätze und des Tricks der Kürzung auf die ethnische Verteilung und die Bildqualität in generierten Daten zu messen. Die Studie zeigt, dass GANs die rassische Zusammensetzung der Trainingsdaten beibehalten, aber die rassischen Ungleichgewichte durch Beschneidung verschärfen. Außerdem wird festgestellt, dass die wahrgenommene visuelle Qualität der erzeugten Bilder durch die rassische Zusammensetzung der Trainingsdaten beeinflusst wird, wobei Bilder weißer Personen im Allgemeinen als qualitativ hochwertiger wahrgenommen werden. Das Kapitel schließt mit Empfehlungen für Praktiker und schlägt zukünftige Forschungsrichtungen vor, um Rassenvoreingenommenheit in generativen Modellen zu bekämpfen und abzumildern.