Skip to main content

2021 | OriginalPaper | Buchkapitel

Spannungsfeld automatisierte Entscheidungssysteme und Autonomie

verfasst von : Sabine Theresia Koeszegi

Erschienen in: CSR und Künstliche Intelligenz

Verlag: Springer Berlin Heidelberg

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Zusammenfassung

Seit etwa fünfzig Jahren setzen Menschen modell- und datenbasierte Unterstützungssysteme zur Entscheidungsfindung ein – vorwiegend bei komplexen Entscheidungsproblemen. Menschen haben nicht nur beschränkte kognitive Fähigkeiten und Kapazitäten, sondern auch bewusste und unbewusste Vorurteile, die die Qualität ihrer Entscheidungen vermindern können. Der Einsatz von Entscheidungssystemen wird daher damit gerechtfertigt, dass mit ihrer Hilfe Entscheidungen nicht nur effizienter, sondern auch unparteiisch getroffen und damit mehr Fairness und Gerechtigkeit erzielt werden können.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Fußnoten
1
In öffentlichen Dokumenten oder in den Medien werden für automatisierte Entscheidungssysteme auch viele andere Begriffe synonym verwendet, wie „predictive analytics“, „algrorithmic decision making“, „automated decision making“ oder „machine learning“. Es gibt Unterschiede zwischen den einzelnen Begriffen, die aber auch bei Expert*innen umstritten sind (s. dazu z. B. Molnar und Gill 2018).
 
2
Nach der E-Privacy-Richtlinie der Europäischen Kommission, der sogenannten Cookie-Richtlinie, ist das Setzen von Cookies allerdings nur erlaubt, wenn Nutzer*innen ausdrücklich und aktiv zustimmen. Auch der Europäische Gerichtshof hat dies in einem neuerlichen Urteil bestätigt (vgl. Ionos, Digital Guide 2020).
 
Literatur
Zurück zum Zitat Agrawal J, Gans J, Goldfarb A (2018) Prediction machines: the simple economics of artificial intelligence. Harvard Business Review Press, Boston Massachusetts Agrawal J, Gans J, Goldfarb A (2018) Prediction machines: the simple economics of artificial intelligence. Harvard Business Review Press, Boston Massachusetts
Zurück zum Zitat Bond R, Fariss CJ, Jones JJ, Kramer ADI, Marlow C, Settle JE, Fowler JH (2012) A 61-Million-Person Experiment in Social Influence and Political Mobilization. Nature 489:295–298 Bond R, Fariss CJ, Jones JJ, Kramer ADI, Marlow C, Settle JE, Fowler JH (2012) A 61-Million-Person Experiment in Social Influence and Political Mobilization. Nature 489:295–298
Zurück zum Zitat Collingridge D (1981) The social control of technology. Milton Keynes, Eng. Open University Press Collingridge D (1981) The social control of technology. Milton Keynes, Eng. Open University Press
Zurück zum Zitat Gillespie T (2016) Algorithm. In: Peters B (Hrsg) Digital keywords: a vocabulary of information society and culture. Princeton University Press, Princeton, S 18–30 Gillespie T (2016) Algorithm. In: Peters B (Hrsg) Digital keywords: a vocabulary of information society and culture. Princeton University Press, Princeton, S 18–30
Zurück zum Zitat Hagras H (2018) Toward Human-Understandable, Explainable AI. Computer 51(9):28–36CrossRef Hagras H (2018) Toward Human-Understandable, Explainable AI. Computer 51(9):28–36CrossRef
Zurück zum Zitat Kosinski M, Stillwell D, Graepel T (2013) Private traits and attributes are predictable from digital records of human behavior. PNAS 110(15):5801–5805CrossRef Kosinski M, Stillwell D, Graepel T (2013) Private traits and attributes are predictable from digital records of human behavior. PNAS 110(15):5801–5805CrossRef
Zurück zum Zitat Kramer ADE, Guillory JE, Hancock JT (2014) Experimental evidence of massive scale emotional contagion through social networks. PNAS 111(24):8788–8790CrossRef Kramer ADE, Guillory JE, Hancock JT (2014) Experimental evidence of massive scale emotional contagion through social networks. PNAS 111(24):8788–8790CrossRef
Zurück zum Zitat Lipton, ZC (2016) The mythos of model interpretability. In: ICML Workshop on Human Interpretability in Machine Learning (WHI 2016), New York, arXiv:1606.03490 1470 arXiv:cs, stat/1606.03490 Lipton, ZC (2016) The mythos of model interpretability. In: ICML Workshop on Human Interpretability in Machine Learning (WHI 2016), New York, arXiv:1606.03490 1470 arXiv:cs, stat/1606.03490
Zurück zum Zitat Logga JM, Minsona JA, Moore DA (2019) Algorithm appreciation: people prefer algorithmic to human judgment. Organ Behav Hum DecisProcess 15:90–103CrossRef Logga JM, Minsona JA, Moore DA (2019) Algorithm appreciation: people prefer algorithmic to human judgment. Organ Behav Hum DecisProcess 15:90–103CrossRef
Zurück zum Zitat Molnar P, Gill L (2018) Bots at the gate: a human rights analysis of automated decision-making in Canada’s immigration and refugee system. University of Toronto, Research 114 Molnar P, Gill L (2018) Bots at the gate: a human rights analysis of automated decision-making in Canada’s immigration and refugee system. University of Toronto, Research 114
Zurück zum Zitat Thaler R, Sunstein CR (2008) Nudge: improving decisions about health, wealth, and happiness. Yale University Press, ISBN 978-0-14-311526-7 Thaler R, Sunstein CR (2008) Nudge: improving decisions about health, wealth, and happiness. Yale University Press, ISBN 978-0-14-311526-7
Zurück zum Zitat Tufekci Z (2015) Algorithmic harms beyond Facebook and Google: emergent challenges of computational agency. Colo Tech L J 13:203–218 Tufekci Z (2015) Algorithmic harms beyond Facebook and Google: emergent challenges of computational agency. Colo Tech L J 13:203–218
Zurück zum Zitat Wouters N, Kelly R, Velloso E, Wolf K, Ferdous HS, Newn J, Joukhadar Z, Vetere F (2019) Biometric mirror: exploring values and attitudes towards facial analysis and automated decision-making. Conference on Designing Interactive Systems, 1145 Wouters N, Kelly R, Velloso E, Wolf K, Ferdous HS, Newn J, Joukhadar Z, Vetere F (2019) Biometric mirror: exploring values and attitudes towards facial analysis and automated decision-making. Conference on Designing Interactive Systems, 1145
Zurück zum Zitat Zuboff S (2018) Das Zeitalter des Überwachungskapitalismus. Campus, Frankfurt Zuboff S (2018) Das Zeitalter des Überwachungskapitalismus. Campus, Frankfurt
Metadaten
Titel
Spannungsfeld automatisierte Entscheidungssysteme und Autonomie
verfasst von
Sabine Theresia Koeszegi
Copyright-Jahr
2021
Verlag
Springer Berlin Heidelberg
DOI
https://doi.org/10.1007/978-3-662-63223-9_3

Premium Partner