Skip to main content
Fachgebiete
Automobil + Motoren Bauwesen + Immobilien Business IT + Informatik Elektrotechnik + Elektronik Energie + Nachhaltigkeit Finance + Banking Management + Führung Marketing + Vertrieb Maschinenbau + Werkstoffe Versicherung + Risiko
DE
EN
Bücher
Zeitschriften
Themenseiten
Organisationspsychologie Projektmanagement Marketing Smart Manufacturing
Weitere Formate
Podcasts Webinare Technik Webinare Wirtschaft Kongresse Veranstaltungskalender Awards
Jetzt Einzelzugang starten
Zugang für Unternehmen
Referenzkunden
SLX-Digitalkonferenz: Zukunftswerkstatt 2024

Mehr Umsatz mit Top-Kontakten

Am 7. Mai erfahren Sie, wie Vertriebsteams Leadgenerierung, Leadnurturing und Leadstrategien effizient steuern können.
Erweiterte Suche
Anmelden
nach oben
Erschienen in:
Einleitung: Die Regulierung von Verantwortung in entgrenzten Räumen Kapitel lesen Erstes Kapitel lesen

2020 | OriginalPaper | Buchkapitel

Verantwortlich Forschen mit und zu Big Data-Analysen und Künstlicher Intelligenz

verfasst von : Jessica Heesen

Erschienen in: Entgrenzte Verantwortung

Verlag: Springer Berlin Heidelberg

Einloggen

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Zusammenfassung

Künstliche Intelligenz und Big Data werfen neue Verantwortungsprobleme und neue Unsicherheiten in Bezug auf die Risiken ihrer Anwendung auf. Bezüglich vieler Aspekte der „Datafizierung“ gibt es kritische Stimmen. Dies betrifft die Aussagekraft, vermeintliche Objektivität und Relevanz der Daten, aber auch Fragen des Datenschutzes, Diskriminierungspotenziale und Effekte von Künstlicher Intelligenz und Big Data auf die Demokratie. Neben der Reflexion über verantwortbare Einsatzfelder von KI wird auf grundsätzlicherer Ebene in Wissenschaft und Gesellschaft die Frage gestellt, ob autonome Anwendungen eine eigenständige Macht entfalten und den Menschen überflügeln und ersetzen können. Diese Frage nach der Steuerungsmacht datengetriebener KI-Systeme hat eine besondere gesellschaftliche Brisanz. Aus diesem Grund diskutiert der Beitrag neben problematischen Funktionsweisen von KI (Datenschutz, Diskriminierung) Kernelemente demokratischer Selbststeuerung im Vergleich zu datenbasierten Entscheidungsprozessen.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Jetzt informieren
Vorheriges Kapitel Verantwortung und Technik: zum Wandel des Verantwortungsbegriffs in der Technikethik
Nächstes Kapitel Polyzentrische Klimapolitik: Formen und Leistungspotenziale
Fußnoten
1
Heesen u. a., Technikethik, in: Bohrmann u. a. (Hrsg.), Angewandte Ethik und Film, 2018, S. 229 (230–232).
 
2
BMVI, Bericht der Ethik-Kommission, Automatisiertes und vernetztes Fahren, 2017.
 
3
Grunwald, Technikfolgenabschätzung: Eine Einführung, 2010.
 
4
Hubig, Technik- und Wissenschaftsethik: Ein Leitfaden, 1993; Grunwald, Handbuch Technikethik, 2013.
 
5
Mittelstraß, Auf dem Weg zu einer Reparaturethik? in: Wils u. a. (Hrsg.), Ethik ohne Chance? 1989, S. 89.
 
6
Nissenbaum, Values in Technical Design, in: Mitcham (Hrsg.), Encyclopedia of Science, Technology, and Ethics, 2003, S. LXVI–LXX; VDI – Verein Deutscher Ingenieure, Richtlinie 3780 Technikbewertung, 1991, S. 6.
 
7
Cukier u. a., The Rise of Big Data, Foreign Affairs, Vol. 92, No. 3, 2013, S. 28.
 
8
Richter, Big Data und demokratische Willensbildung aus verfassungsrechtlicher Sicht, 2015, in: Richter (Hrsg.), Privatheit, Öffentlichkeit und demokratische Willensbildung in Zeiten von Big Data, S. 45; Helbing u. a., Digitale Demokratie statt Datendiktatur, Spektrum.de, 17.12.2015; Boyd u. a., Critical Questions for Big Data Information: Provocations for a Cultural, Technological, and Scholarly Phenomenon, Information, Communication and Society, Vol. 15, Issue 5, 2012, S. 662; Manovich, Trending: The Promises and the Challenges of Big Social Data, Creative Commons 2011.
 
9
Brachman u. a., The Process of Knowledge Discovery in Database: A Human-Centered Approach, in: Fayyad u. a. (Hrsg.), Advances in Knowledge Discovery and Data Mining, 1996, S. 37 (37).
 
10
Heesen u. a., Politische Öffentlichkeit und Big Data, in: Richter (Hrsg.), Privatheit, Öffentlichkeit und demokratische Willensbildung in Zeiten von Big Data, 2015, S. 147.
 
11
Kitchin, The Data Revolution: Big Data, Open Data, Data Infrastructures & Their Consequences, 2014, S. 16.
 
12
Leibig u. a., Leveraging uncertainty information from deep neural networks for disease detection, Scientific Reports, 7/2017.
 
13
Leese, The new profiling: Algorithms, black boxes, and the failure of anti-discriminatory safeguards in the European Union, Security Dialogue, Vol. 45, Issue 5, 2014, S. 494.
 
14
Moretti, Distant Reading, 2013.
 
15
Habermas, Faktizität und Geltung – Beiträge zur Diskurstheorie des Rechts und des demokratischen Rechtsstaats, 1992.
 
16
Zafar u. a., Fairness Beyond Disparate Treatment & Disparate Impact, Creative Commons, 2017.
 
17
Bekannt ist das Problem der falschen Klassifizierung unter dem Begriff fallacy of division, siehe Robinson, Ecological correlations and the behavior of individuals, American Sociological Review, Vol. 15, No. 3, 1950, S. 351.
 
18
Roßnagel u. a., Datenschutzrecht 2016. „Smart“ genug für die Zukunft? Ubiquitous Computing und Big Data als Herausforderungen des Datenschutzrechts, 2016.
 
19
Hagendorff, Das Ende der Informationskontrolle: Zur Nutzung digitaler Medien jenseits von Privatheit und Datenschutz, 2017.
 
20
Siehe hierzu die Stellungnahme führender KI-Unternehmen und -Forscher_innen vom Juli 2018 zur Verhinderung der Nutzung von autonomen Systemen für tödliche Waffen „Lethal Autonomous Weapons Pledge“.
 
21
Sullins, RoboWarfare: Can Robots Be More Ethical Than Humans on the Battlefield?, Ethics and Information Technology, Vol. 12, Issue 3, 2010, S. 263.; Sydow u. a. (Hrsg.), Arbeit – eine Neubestimmung, 2010; Becker u. a., Robotik in Betreuung und Gesundheitsversorgung, 2013.
 
22
Bostrom, Superintelligence: Paths, Dangers, Strategies, 2014.
 
23
Siehe z. B. die Filme „Ex Machina“ (UK 2015, R: Alex Garland); „I, Robot“ (USA/D 2004, R: Alex Proyas).
 
24
Joy, Bill Joy, Why the Future Doesn’t Need Us, Wired, 04.01.2000.
 
25
The White House, Big Data: Seizing Opportunities, Preserving Values, Executive Office of the President, 2015; Europäisches Parlament 2014–2019, Bericht über die Folgen von Massendaten für die Grundrechte, 2017; Zanouda u. a., The Quantified City, 2017.
 
26
Hermanin u. a., Making „Big Data“ Work for Equality, 2013.
 
27
Als Beispiel für die zahlreichen kritischen Auseinandersetzungen mit der manipulativen Wirkung von Datenerhebungen auf die Meinungsbildung, siehe Hersh, Hacking the electorate: How campaigns perceive voters, 2015.
 
28
Platon, Politeia, Buch 6 und 7 (Philosophenherrschaft).
 
29
Ellul, The Technological Society, 1964; Bell, Veblen and the Technocrats: On the Engineers and the Price System, in: ders., The Winding Passage: Sociological Essays and Journeys 1960–1980, 1980, S. 69.
 
30
Brey, Values in technology and disclosive computer ethics, in: Floridi (Hrsg.), The Cambridge handbook of information and computer ethics, 2010, S. 41.
 
31
Mau, Das metrische Wir: Über die Quantifizierung des Sozialen, 2017; O’Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, 2016; Porter, Trust in Numbers: The Pursuit of Objectivity in Science and Public Life, 1996.
 
32
Rosenberg, Data before the fact, in: Gitelman (Hrsg.), „Raw Data“ is an Oxymoron, 2013, S. 15 (35).
 
33
Ebda. S. 18.
 
34
Ebda. S. 36.
 
35
Siehe parallel dazu die Debatte im sogenannten Positivismusstreit, Adorno u. a., Der Positivismusstreit in der deutschen Soziologie, 13. Auflage, 1989.
 
36
Foucault, Ein Spiel um die Psychoanalyse, in: ders. (Hrsg.), Dispositive der Macht, S. 118 (119).
 
37
Ebda. S. 123.
 
38
Gitelman, „Raw Data“ is an Oxymoron, 2013; Kitchin, The Data Revolution: Big Data, Open Data, Data Infrastructures & Their Consequences, 2014; Manovich, Trending: The Promises and the Challenges of Big Social Data, Creative Commons, 2011.
 
39
Heesen, Medienethik und Netzkommunikation: Öffentlichkeit in der individualisierten Mediengesellschaft, 2008.
 
40
Habermas, Strukturwandel der Öffentlichkeit: Untersuchungen zu einer Kategorie der bürgerlichen Gesellschaft, 5. Auflage, 1996, S. 588.
 
41
Kant, Die Metaphysik der Sitten, Rechtslehre § 46, in: Wilhelm Weischedel (Hrsg.): Immanuel Kant: Werke VIII, Schriften zur Ethik und Religionsphilosophie 2, 1956 [1797], S. 432; Kant zur Vereinigung von Öffentlichkeit und Allgemeinwohlbestimmung: „Alle Maximen, die der Publizität bedürfen (um ihren Zweck nicht zu verfehlen), stimmen mit Recht und Politik vereinigt zusammen. Denn wenn Sie nur durch die Publizität ihren Zweck erreichen können, so müssen sie dem allgemeinen Zweck des Publikums (der Glückseligkeit) gemäß sein, womit zusammen zu stimmen (es mit seinem Zustande zufrieden zu machen), die eigentliche Aufgabe der Politik ist“ (Kant, Zum ewigen Frieden, 2. Anhang, Akad.-A. 8, 1923 [1795], S. 386).
 
42
Rousseau, Du contrat social ou Principes du droit politique: Vom Gesellschaftsvertrag oder Grundsätze des Staatsrechts, 2010 [1762].
 
43
Um sich diesen Mechanismus anhand eines Beispiels vor Augen zu führen: Smarte Fernseher dokumentieren die individuelle Senderwahl. Wenn hier nun aufgezeichnet wird, dass ein Nutzer gerne Volksmusiksendungen sieht, könnte man daraus den Schluss ziehen, dass dieser Nutzer für noch mehr Volksmusikangebote im Fernsehen ist, aber auch empfänglich sein wird für entsprechende personalisierte Werbung oder passende Vorschläge seines Musikstreamingangebots. Vielleicht ist dieser Nutzer jedoch nicht mit dem Inhalt der Sendung einverstanden und schaut aufgrund anderer Motive, außerdem ist er generell vielleicht Befürworter von attraktiveren Dokumentationen und politischen Bildungsangeboten, die er in der jetzigen Form aber zu langweilig findet – diese Situation kann durch eine reine Aufzeichnung des Nutzungsverhaltens nicht adäquat wiedergegeben werden.
 
44
Heesen, Medienethik und Netzkommunikation: Öffentlichkeit in der individualisierten Mediengesellschaft, 2008, S. 45 ff.
 
45
Luhmann, Die Realität der Massenmedien, 2. Auflage, 1996, S. 17 ff.
 
46
Napoli, Automated Media: An Institutional Theory Perspective on Algorithmic Media Production and Consumption, Communication Theory, Vol. 24, Issue 3, 2014, S. 340.
 
47
Siehe predictive policing, smart grids, legal tech.
 
48
Gray u. a., The data journalism handbook, 2012.
 
49
Heidbrink, Nichtwissen und Verantwortung: Zum Umgang mit unbeabsichtigten Nebenfolgen, Working Paper des Center for Responsibility Research, Vol. 8, 2010.
 
50
Goodman u. a., European Union regulations on algorithmic decision-making and a „right to explanation“, 2016.
 
51
Hubig, Die Kunst des Möglichen II: Grundlinien einer dialektischen Philosophie der Technik. Ethik der Technik als provisorische Moral, 2007, S. 116 ff.
 
52
Heesen, Ethische Aspekte einer Handlungspartnerschaft zwischen Personen und Robotern, in: Eric Hilgendorf (Hrsg.), Robotik im Kontext von Recht und Moral, 2014, S. 190 (201 ff.).
 
Literatur
Theodor W. Adorno/Ralf Dahrendorf/Harald Pilot/Hans Albert/Jürgen Habermas/Karl R. Popper, Der Positivismusstreit in der deutschen Soziologie, 13. Auflage, 1989.
Heidrun Becker/Mandy Scheermesser/Michael Früh/Yvonne Treusch/Holger Auerbach/Richard Alexander Hüppi/Flurina Meier, Robotik in Betreuung und Gesundheitsversorgung, 2013.
Daniel Bell, Veblen and the Technocrats: On the Engineers and the Price System, in: ders., The Winding Passage: Sociological Essays and Journeys 1960–1980, 1980, S. 69.
Nick Bostrom, Superintelligence: Paths, Dangers, Strategies, 2014.
Danah Boyd/Kate Crawford, Critical Questions for Big Data Information: Provocations for a Cultural, Technological, and Scholarly Phenomenon, Information, Communication and Society, Vol. 15, Issue 5, 2012, S. 662.
Ronald J. Brachman/Tej Anand, The Process of Knowledge Discovery in Database: A Human-Centered Approach, in: Usama Fayyad/Gregory Piatetsky-Shapiro/Padhraic Smyth (Hrsg.), Advances in Knowledge Discovery and Data Mining, 1996, Amer. Assn. for Artificial Intelligence, Menlo Park, CA, USA, AI-Magazin, S. 37.
Philipp Brey, Values in technology and disclosive computer ethics, in: Luciano Floridi (Hrsg.), The Cambridge handbook of information and computer ethics, 2010, S. 41.CrossRef
Kenneth Cukier/Viktor Mayer-Schoenberger, The Rise of Big Data: How It’s Changing the Way We Think About the World, Foreign Affairs, Vol. 92, No. 3, 2013, S. 28.
Jacques Ellul, The Technological Society, 1964.
Europäisches Parlament 2014–2019, Bericht über die Folgen von Massendaten für die Grundrechte, 2017.
Michel Foucault, Ein Spiel um die Psychoanalyse: Gespräch mit Angehörigen des Departement de Psychanalyse der Universität Paris/Vincennes, in: Michel Foucault (Hrsg.), Dispositive der Macht: Über Sexualität, Wissen und Wahrheit, 2008, S. 118.
Lisa Gitelman, „Raw Data“ is an Oxymoron, 2013.
Bryce Goodman/Seth Flaxman, European Union regulations on algorithmic decision-making and a „right to explanation“, presented at 2016 ICML Workshop on Human Interpretability in Machine Learning (WHI 2016), New York, NY, eprint arXiv:1606.08813, 06/2016, https://​arxiv.​org/​pdf/​1606.​08813.​pdf (letzter Zugriff: 19.08.2019).
Jonathan Gray/Liliana Bounegru/Lucy Chambers, The data journalism handbook, 2012.
Armin Grunwald (Hrsg.), Handbuch Technikethik, 2013.
Jürgen Habermas, Faktizität und Geltung – Beiträge zur Diskurstheorie des Rechts und des demokratischen Rechtsstaats, 1992.
Jürgen Habermas, Strukturwandel der Öffentlichkeit: Untersuchungen zu einer Kategorie der bürgerlichen Gesellschaft. Mit einem Vorwort zur Neuauflage 1990, 5. Auflage, 1996.
Thilo Hagendorff, Das Ende der Informationskontrolle: Zur Nutzung digitaler Medien jenseits von Privatheit und Datenschutz, 2017.CrossRef
Jessica Heesen, Ethische Aspekte einer Handlungspartnerschaft zwischen Personen und Robotern, in: Eric Hilgendorf (Hrsg.), Robotik im Kontext von Recht und Moral, 2014, S. 190.
Jessica Heesen, Medienethik und Netzkommunikation: Öffentlichkeit in der individualisierten Mediengesellschaft, 2008.
Jessica Heesen, Wer entscheidet für uns? Big Data, intelligente Systeme und kluges Handeln, in: Petra Grimm/Oliver Zöllner (Hg.): Mensch – Maschine. Ethische Sichtweisen auf ein Spannungsverhältnis, Stuttgart: Steiner 2018, 47–58.
Jessica Heesen/Tobias Matzner, Politische Öffentlichkeit und Big Data, in: Philipp Richter (Hrsg.), Privatheit, Öffentlichkeit und demokratische Willensbildung in Zeiten von Big Data, 2015, S. 147.
Jessica Heesen/Marc Sehr, Technikethik: „Ex Machina“, Verantwortung für technische Produkte, in: Thomas Bohrmann/Matthias Reichelt/Werner Veith (Hrsg.), Angewandte Ethik und Film, 2018, S. 229.
Eitan Hersh, Hacking the electorate: How campaigns perceive voters, 2015.CrossRef
Christoph Hubig, Die Kunst des Möglichen II: Grundlinien einer dialektischen Philosophie der Technik. Ethik der Technik als provisorische Moral, 2007.
Christoph Hubig, Technik- und Wissenschaftsethik: Ein Leitfaden, 1993.
Immanuel Kant, Die Metaphysik der Sitten, Rechtslehre § 46, in: Wilhelm Weischedel (Hrsg.): Immanuel Kant. Werke VIII, Schriften zur Ethik und Religionsphilosophie 2, 1956 [1797].
Immanuel Kant, Zum ewigen Frieden, 2. Anhang, Akad.-A. 8, 1923 [1795].
Rob Kitchin, The Data Revolution: Big Data, Open Data, Data Infrastructures & Their Consequences, 2014.
Matthias Leese, The new profiling: Algorithms, black boxes, and the failure of anti-discriminatory safeguards in the European Union, Security Dialogue, Vol. 45, Issue 5, 2014, S. 494.CrossRef
Niklas Luhmann, Die Realität der Massenmedien, 2. Auflage, 1996.
Steffen Mau, Das metrische Wir: Über die Quantifizierung des Sozialen, 2017.
Jürgen Mittelstraß, Auf dem Weg zu einer Reparaturethik?, in: Jean-Pierre Wils/Dietmar Mieth (Hrsg.), Ethik ohne Chance? 1989, S. 89.
Franco Moretti, Distant Reading, 2013.
Philip M. Napoli, Automated Media: An Institutional Theory Perspective on Algorithmic Media Production and Consumption, Communication Theory, Vol. 24, Issue 3, 2014, S. 340.CrossRef
Cathy O’Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, 2016.
Theodore M. Porter, Trust in Numbers: The Pursuit of Objectivity in Science and Public Life, 1996.
Philipp Richter, Big Data und demokratische Willensbildung aus verfassungsrechtlicher Sicht, in: ebenda (Hrsg.), Privatheit, Öffentlichkeit und demokratische Willensbildung in Zeiten von Big Data, 2015, S. 45.
William S. Robinson, Ecological correlations and the behavior of individuals, American Sociological Review, Vol. 15, No. 3, 1950, S. 351.CrossRef
Daniel Rosenberg, Data before the fact, in: Lisa Gitelman (Hrsg.), „Raw Data“ is an Oxymoron, 2013, S. 15.
Alexander Roßnagel/Christian Geminn/Silke Jandt/Philipp Richter, Datenschutzrecht 2016. „Smart“ genug für die Zukunft? Ubiquitous Computing und Big Data als Herausforderungen des Datenschutzrechts, 2016.
Jean-Jacques Rousseau, Du contrat social ou Principes du droit politique. Vom Gesellschaftsvertrag oder Grundsätze des Staatsrechts. Französisch/Deutsch, 2010.
John P. Sullins, RoboWarfare: Can Robots Be More Ethical Than Humans on the Battlefield?, Ethics and Information Technology, Vol. 12, Issue 3, 2010, S. 263.
VDI – Verein Deutscher Ingenieure, Richtlinie 3780, Technikbewertung, Begriffe und Grundlagen, 1991.
Muhammad Bilal Zafar/Isabel Valera/Manuel Gomez Rodriguez/Krishna P. Gummadi, Fairness Beyond Disparate Treatment & Disparate Impact: Learning Classification without Disparate Mistreatment, International World Wide Web Conference Committee (IW3C2), published under Creative Commons CC BY 4.0 License 2017, April 3–7, 2017, https://​arxiv.​org/​pdf/​1610.​08452.​pdf (letzter Zugriff: 02.09.2019).
Metadaten
Titel
Verantwortlich Forschen mit und zu Big Data-Analysen und Künstlicher Intelligenz
verfasst von
Jessica Heesen
Copyright-Jahr
2020
Verlag
Springer Berlin Heidelberg
Buch
Entgrenzte Verantwortung

Print ISBN: 978-3-662-60563-9

Electronic ISBN: 978-3-662-60564-6

Copyright-Jahr: 2020

DOI
https://doi.org/10.1007/978-3-662-60564-6_14