nach oben

Erschienen in:

2020 | OriginalPaper | Buchkapitel

Fair Enough? On (Avoiding) Bias in Data, Algorithms and Decisions

verfasst von : Francien Dechesne

Erschienen in: Privacy and Identity Management. Data for Better Living: AI and Privacy

Verlag: Springer International Publishing

Einloggen

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config

KI-gestützte Suche

Aus

Abstract

This contribution explores bias in automated decision systems from a conceptual, (socio-)technical and normative perspective. In particular, it discusses the role of computational methods and mathematical models when striving for “fairness” of decisions involving such systems.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

über 102.000 Bücher
über 537 Zeitschriften

aus folgenden Fachgebieten:

Automobil + Motoren
Bauwesen + Immobilien
Business IT + Informatik
Elektrotechnik + Elektronik
Energie + Nachhaltigkeit
Finance + Banking
Management + Führung
Marketing + Vertrieb
Maschinenbau + Werkstoffe
Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

über 67.000 Bücher
über 390 Zeitschriften

aus folgenden Fachgebieten:

Automobil + Motoren
Bauwesen + Immobilien
Business IT + Informatik
Elektrotechnik + Elektronik
Energie + Nachhaltigkeit
Maschinenbau + Werkstoffe

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

über 67.000 Bücher
über 340 Zeitschriften

aus folgenden Fachgebieten:

Bauwesen + Immobilien
Business IT + Informatik
Finance + Banking
Management + Führung
Marketing + Vertrieb
Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Vorheriges Kapitel Privacy as Enabler of Innovation

Nächstes Kapitel Opportunities and Challenges of Dynamic Consent in Commercial Big Data Analytics

Cf. https://www.cucicucicoo.com/2017/02/fabric-bias-vs-grain/ - last accessed 3 Nov. 2019.

Kahneman, D., Paul, P.S., Tversky, A.: Judgment under Uncertainty: Heuristics and Biases. Cambridge University Press, Cambridge (1982)CrossRef

Februari, M.: “Het is allemaal mensenwerk” (in Dutch). Godwin lecture. De Correspondent, 5 May 2017. https://decorrespondent.nl/6692/de-datahonger-van-staten-en-bedrijven-zet-veel-meer-op-het-spel-dan-uw-privacy-alleen/1514846110316-d1a5748d

Angwin, J., Larson, J., Mattu, S., Kirchner, L.: Machine Bias - There’s software used across the country to predict future criminals. And it’s biased against blacks. ProPublica, 23 May 2016. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

Narayanan, A.: 21 definitions of fairness. In: Tutorial at the FAT\(^*\) Conference, New York, February 2018. https://www.youtube.com/watch?v=jIXIuYdnyyk

Froehle, C.: The evolution of an accidental meme. How one little graphic became shared and adapted by millions. Medium, 14 April 2016. https://medium.com/@CRA1G/the-evolution-of-an-accidental-meme-ddc4e139e0e4

Kranzberg, M.: Technology and history: “Kranzberg’s laws". Technol. Cult. 27(3), 544–560 (1986). https://doi.org/10.2307/3105385CrossRef

Verbeek, P.-P.: Animation: Explaining Technological Mediation, June 2017. https://vimeo.com/221545135

Harcourt, B.: Against Prediction. University of Chicago Press (2006)

O’Neil, C.: Weapons of Math Destruction - How Big Data Increases Inequality and Threatens Democracy. Crown (2016)

10.

Lapowsky, I.: Google Autocomplete Still Makes Vile Suggestions. Wired, 2 December 2018. https://www.wired.com/story/google-autocomplete-vile-suggestions/

11.

Sonnad, N.: Google Translate’s gender bias pairs “he” with “hardworking” and “she” with lazy, and other examples. Quartz, 29 November 2017. https://qz.com/1141122/google-translates-gender-bias-pairs-he-with-hardworking-and-she-with-lazy-and-other-examples/

12.

Bolukbasi, T., Chang, K.-W., Zou, J.Y., Saligrama, V., Kalai, A.T.: Man is to computer programmer as woman is to homemaker? Debiasing word embeddings. In: Advances in Neural Information Processing Systems, pp. 4349–4357 (2016)

13.

Caliskan, A., Bryson, J.J., Narayanan, A.: Semantics derived automatically from language corpora contain human-like biases. Science 356(6334), 183–186 (2017)CrossRef

14.

Barocas, S., Selbst, A.D.: Big data’s disparate impact. Calif. Law Rev. 104, 671 (2016)

15.

Kuczmarski, J.: Reducing gender bias in Google Translate. Google Blog, 2 December 2018. https://www.blog.google/products/translate/reducing-gender-bias-google-translate/

16.

Yong, E.: A popular algorithm is no better at predicting crimes than random people. The Atlantic, 17 January 2018. https://www.theatlantic.com/technology/archive/2018/01/equivant-compas-algorithm/550646/

17.

Zafar, M.B., Valera, I., Gomez Rodriguez, M., Gummadi, K.P.: Fairness beyond disparate treatment & disparate impact: learning classification without disparate mistreatment. In: Proceedings of the 26th International Conference on World Wide Web (WWW 2017), pp. 1171–1180 (2017). https://doi.org/10.1145/3038912.3052660

18.

Verma, S., Rubin, J.: Fairness definitions explained. In: Fair-Ware 2018: IEEE/ACM International Workshop on Software Fairness, 29 May 2018, Gothenburg, Sweden. ACM, New York, 7 p. (2018). https://doi.org/10.1145/3194770.3194776

19.

Zliobaite, I.: A survey on measuring indirect discrimination in machine learning (2015). arXiv:1511.00148 [cs.CY]

20.

Friedler, S.A., Scheidegger, C., Venkatasubramanian, S., Choudhary, S., Hamilton, E.P., Roth, D.: A comparative study of fairness-enhancing interventions in machine learning. In: Proceedings of the Conference on Fairness, Accountability, and Transparency (FAT* 2019). ACM, New York, pp. 329–338 (2019). https://doi.org/10.1145/3287560.3287589

21.

Friedler, S.A., Scheidegger, C., Venkatasubramanian, S.: On the (im)possibility of fairness (2016). arXiv:1609.07236 [cs.CY]

22.

Zliobaite, I., Custers, B.: Using sensitive personal data may be necessary for avoiding discrimination in data-driven decision models. Artif. Intell. Law 24, 183–201 (2016). Available at SSRN: https://ssrn.com/abstract=3047233CrossRef

23.

European Council: General Data Protection Regulation. Regulation (EU) 2016/679

24.

Liu, L.T., Dean, S., Rolf, E., Simchowitz, M., Hardt, M.: Delayed impact of fair machine learning. In: Proceedings of the 35th International Conference on Machine Learning, PMLR, vol. 80, pp. 3150–3158 (2018). See also the blog-post at https://bair.berkeley.edu/blog/2018/05/17/delayed-impact/

Titel: Fair Enough? On (Avoiding) Bias in Data, Algorithms and Decisions
verfasst von: Francien Dechesne
Verlag: Springer International Publishing
Buch: Privacy and Identity Management. Data for Better Living: AI and Privacy
Print ISBN: 978-3-030-42503-6

Electronic ISBN: 978-3-030-42504-3

Copyright-Jahr: 2020
DOI: https://doi.org/10.1007/978-3-030-42504-3_2

Springer Professional

Abstract

Bitte loggen Sie sich ein, um Zugang zu Ihrer Lizenz zu erhalten.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Springer Professional "Technik"

Springer Professional "Wirtschaft"