Skip to main content

2024 | OriginalPaper | Buchkapitel

Risiken und Gefahren der ‚Künstlichen‘ ‚Intelligenz‘

verfasst von : Reinhard Kreissl, Roger von Laufenberg

Erschienen in: Künstliche Intelligenz, Mensch und Gesellschaft

Verlag: Springer Fachmedien Wiesbaden

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Zusammenfassung

Die Debatte über das Für und Wider von Künstlicher Intelligenz (KI) wird auf der einen Seite mit dem Argument der Optimierung menschlichen Handelns und Wirkens geführt. Auf der anderen Seite dienen überzogene Szenarien einer alles einnehmende Technologie als Gegenbeispiel. Dabei mangeln beide Argumentationsstränge häufig einer realistischen Einschätzung, Beobachtung und Analyse der Möglichkeiten und Grenzen von KI, inklusive der damit einhergehenden realen Risiken und Gefahren. Die Erwartungen an das ‚Können der KI‘ sind häufig eher illusorischer Natur und unter- bzw. überschätzen dadurch auch die Risiken. Bei genauerer Analyse wird ersichtlich, dass der Begriff KI in vielen Fällen irreführend ist – weder künstlich, noch intelligent – in welcher die Fehleinschätzung über das Können der KI begründet ist. In diesem Beitrag gehen wir dabei auf diese verzweigte Risiko-Debatte ein, analysieren die Aspekte der Künstlichkeit und Intelligenz der KI, bevor wir auf die unterschiedlichen Stränge der KI-Risiko Debatten eingehen – anhand von vier konkreten Einsatzszenarien.

Sie möchten Zugang zu diesem Inhalt erhalten? Dann informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Fußnoten
1
Eine erwähnenswerte Ausnahme ist hier die in Frankreich gestartete Initiative BLOOM, bei der mehr als 1000 Forscher:innen im Bereich der KI-basierten Sprachprogramme an einem transparenten, nicht anglozentrischen Model arbeiten (Heikkilä 2022).
 
2
Zur epistemischen und methodischen Problematik solcher als-ob Rekonstruktionen menschlichen Handelns siehe Schlicht (2002).
 
3
Die soziologische Systemtheorie spricht hier von Komplexitätsreduktion und Heinrich Popitz (1976) vom Ordnungswert der Ordnung.
 
4
Auch im Bereich des ML kommt das Prinzip der cognitive economy zum Einsatz. Siehe Warnett und McGonigle (2002).
 
5
Zeitdiagnostische Gesellschaftstheorien von Giddens (1990) über Beck (1986) bis Bauman (2015) haben diese Momente der Mobilität, Entwurzelung und Entgrenzung aus soziologischer Perspektive ausführlich analysiert.
 
Literatur
Zurück zum Zitat Agostinho, Daniela, Annie Ring, Kristin Veel, Catherine D’Ignazio, und Nanna Bonde Thylstrup. 2019. Uncertain Archives: Approaching the Unknowns, Errors, and Vulnerabilities of Big Data through Cultural Theories of the Archive. Surveillance & Society 17 (3/4): 422–441.CrossRef Agostinho, Daniela, Annie Ring, Kristin Veel, Catherine D’Ignazio, und Nanna Bonde Thylstrup. 2019. Uncertain Archives: Approaching the Unknowns, Errors, and Vulnerabilities of Big Data through Cultural Theories of the Archive. Surveillance & Society 17 (3/4): 422–441.CrossRef
Zurück zum Zitat Anand, Pooja, Yashwant Singh, Arvind Selwal, Pradeep Kumar Singh, Raluca Andreea Felseghi, und Maria Simona Raboaca. 2020. IoVT: Internet of Vulnerable Things? Threat Architecture, Attack Surfaces, and Vulnerabilities in Internet of Things and Its Applications towards Smart Grids. Energies 13 (18): 4813. doi: https://doi.org/10.3390/en13184813.CrossRef Anand, Pooja, Yashwant Singh, Arvind Selwal, Pradeep Kumar Singh, Raluca Andreea Felseghi, und Maria Simona Raboaca. 2020. IoVT: Internet of Vulnerable Things? Threat Architecture, Attack Surfaces, and Vulnerabilities in Internet of Things and Its Applications towards Smart Grids. Energies 13 (18): 4813. doi: https://​doi.​org/​10.​3390/​en13184813.CrossRef
Zurück zum Zitat Bauman, Zygmunt. 2015. Liquid Modernity. Cambridge, UK, Malden, MA: Polity Press; Blackwell. Bauman, Zygmunt. 2015. Liquid Modernity. Cambridge, UK, Malden, MA: Polity Press; Blackwell.
Zurück zum Zitat Bauman, Zygmunt, und David Lyon. 2016. Liquid surveillance. A conversation, 2nd edn. Polity conversations series. Cambridge, Malden: Polity. Bauman, Zygmunt, und David Lyon. 2016. Liquid surveillance. A conversation, 2nd edn. Polity conversations series. Cambridge, Malden: Polity.
Zurück zum Zitat Beck, Ulrich. 1986. Risikogesellschaft. Auf dem Weg in eine andere Moderne. Berlin: Suhrkamp-Verlag. Beck, Ulrich. 1986. Risikogesellschaft. Auf dem Weg in eine andere Moderne. Berlin: Suhrkamp-Verlag.
Zurück zum Zitat Bostrom, Nick. 2014. Superintelligence. Paths, dangers, strategies. Oxford, England: Oxford University Press. Bostrom, Nick. 2014. Superintelligence. Paths, dangers, strategies. Oxford, England: Oxford University Press.
Zurück zum Zitat Bowker, Geoffrey C., und Susan Leigh Star. 1999. Sorting things out. Classification and its consequences, 1st edn. Inside technology. Cambridge, Mass.: MIT Press. Bowker, Geoffrey C., und Susan Leigh Star. 1999. Sorting things out. Classification and its consequences, 1st edn. Inside technology. Cambridge, Mass.: MIT Press.
Zurück zum Zitat Dreyfus, Hubert L. 1999. What computers still can’t do. A critique of artificial reason, 6th edn. Cambridge, Mass.: MIT Press. Dreyfus, Hubert L. 1999. What computers still can’t do. A critique of artificial reason, 6th edn. Cambridge, Mass.: MIT Press.
Zurück zum Zitat Giddens, Anthony. 1990. The consequences of modernity. Stanford, Calif.: Stanford Univ. Press. Giddens, Anthony. 1990. The consequences of modernity. Stanford, Calif.: Stanford Univ. Press.
Zurück zum Zitat Gillespie, Tarleton. 2014. The Relevance of Algorithms. In Media Technologies: Essays on Communication, Materiality, and Society, ed. Tarleton Gillespie, Pablo J. Boczkowski und Kirsten A. Foot, 167–194: MIT Press Scholarship Online. Gillespie, Tarleton. 2014. The Relevance of Algorithms. In Media Technologies: Essays on Communication, Materiality, and Society, ed. Tarleton Gillespie, Pablo J. Boczkowski und Kirsten A. Foot, 167–194: MIT Press Scholarship Online.
Zurück zum Zitat Gillespie, Tarleton. 2016. Algorithm. In Digital keywords: A vocabulary of information society and culture, hrsg. Benjamin Peters, 18–30. Princeton studies in culture and technology. Princeton [New Jersey], Boston, Massachusetts: Princeton University Press; Credo Reference. Gillespie, Tarleton. 2016. Algorithm. In Digital keywords: A vocabulary of information society and culture, hrsg. Benjamin Peters, 18–30. Princeton studies in culture and technology. Princeton [New Jersey], Boston, Massachusetts: Princeton University Press; Credo Reference.
Zurück zum Zitat Gillespie, Tarleton. 2018. Custodians of the internet. Platforms, content moderation, and the hidden decisions that shape social media. New Haven, London: Yale University Press. Gillespie, Tarleton. 2018. Custodians of the internet. Platforms, content moderation, and the hidden decisions that shape social media. New Haven, London: Yale University Press.
Zurück zum Zitat Goertzel, Ben. 2015. Superintelligence: Fears, Promises and Potentials. Journal of Evolution and Technology 25 (2): 55–87. Goertzel, Ben. 2015. Superintelligence: Fears, Promises and Potentials. Journal of Evolution and Technology 25 (2): 55–87.
Zurück zum Zitat Hölscher, Christoph, Simon Büchner, Martin Brösamle, Tobias Meilinger, und Gerhard Strube. 2007. Signs and Maps: Cognitive Economy in the Use of External Aids for Indoor Navigation. Proceedings of the 29th Annual Conference of the Cognitive Science Society (CogSci 2007), 377–382 (2007). Hölscher, Christoph, Simon Büchner, Martin Brösamle, Tobias Meilinger, und Gerhard Strube. 2007. Signs and Maps: Cognitive Economy in the Use of External Aids for Indoor Navigation. Proceedings of the 29th Annual Conference of the Cognitive Science Society (CogSci 2007), 377–382 (2007).
Zurück zum Zitat Hutchins, Edwin. 2006. Cognition in the wild, 8th edn. A Bradford book. Cambridge, Mass.: MIT Press. Hutchins, Edwin. 2006. Cognition in the wild, 8th edn. A Bradford book. Cambridge, Mass.: MIT Press.
Zurück zum Zitat Jansen, Sue Curry. 2022. What Was Artificial Intelligence?. mediastudies.press. Jansen, Sue Curry. 2022. What Was Artificial Intelligence?. mediastudies.press.
Zurück zum Zitat Kerr, Ian, und Jessica Earle. 2013. Prediction, Preemption, Presumption: How Big Data Threatens Big Picture Privacy. Stanford Law Review 66 (65): 65–72. Kerr, Ian, und Jessica Earle. 2013. Prediction, Preemption, Presumption: How Big Data Threatens Big Picture Privacy. Stanford Law Review 66 (65): 65–72.
Zurück zum Zitat Lazer, David, Ryan Kennedy, Gary King, und Alessandro Vespignani. 2014. The Parable of Google Flu: Traps in Big Data Analysis. Science 343: 1203–1205.CrossRef Lazer, David, Ryan Kennedy, Gary King, und Alessandro Vespignani. 2014. The Parable of Google Flu: Traps in Big Data Analysis. Science 343: 1203–1205.CrossRef
Zurück zum Zitat Lyon, David. 2017. Surveillance Culture: Engagement, Exposure, and Ethics in Digital Modernity. International Journal of Communication 11 (0): 19. Lyon, David. 2017. Surveillance Culture: Engagement, Exposure, and Ethics in Digital Modernity. International Journal of Communication 11 (0): 19.
Zurück zum Zitat Marcus, Gary, und Ernest Davis. 2019. Rebooting AI: building artificial intelligence we can trust. Pantheon. Marcus, Gary, und Ernest Davis. 2019. Rebooting AI: building artificial intelligence we can trust. Pantheon.
Zurück zum Zitat Mead, George Herbert. 2015. Mind, self, and society. The definitive edition. Chicago, London: The University of Chicago Press.CrossRef Mead, George Herbert. 2015. Mind, self, and society. The definitive edition. Chicago, London: The University of Chicago Press.CrossRef
Zurück zum Zitat O’Neil, Cathy. 2016. Weapons of Math Destruction. How Big Data Increases Inequality and Threatens Democracy, 1st edn. New York: Crown. O’Neil, Cathy. 2016. Weapons of Math Destruction. How Big Data Increases Inequality and Threatens Democracy, 1st edn. New York: Crown.
Zurück zum Zitat Pasquale, Frank. 2015. The black box society. The secret algorithms that control money and information. Cambridge: Harvard University Press. Pasquale, Frank. 2015. The black box society. The secret algorithms that control money and information. Cambridge: Harvard University Press.
Zurück zum Zitat Perrow, Charles. 1999. Normal accidents: Living with high-risk technologies. Princeton University Press. Perrow, Charles. 1999. Normal accidents: Living with high-risk technologies. Princeton University Press.
Zurück zum Zitat Pisarchik, Alexander N., Vladimir A. Maksimenko, und Alexander E. Hramov. 2019. From Novel Technology to Novel Applications: Comment on „An Integrated Brain-Machine Interface Platform With Thousands of Channels“ by Elon Musk and Neuralink. Journal of medical Internet research 21 (10): e16356. doi: https://doi.org/10.2196/16356.CrossRef Pisarchik, Alexander N., Vladimir A. Maksimenko, und Alexander E. Hramov. 2019. From Novel Technology to Novel Applications: Comment on „An Integrated Brain-Machine Interface Platform With Thousands of Channels“ by Elon Musk and Neuralink. Journal of medical Internet research 21 (10): e16356. doi: https://​doi.​org/​10.​2196/​16356.CrossRef
Zurück zum Zitat Popitz, Heinrich. 1976. Prozesse der Machtbildung, 3rd edn. Recht und Staat in Geschichte und Gegenwart, 362/363. Tübingen: Mohr. Popitz, Heinrich. 1976. Prozesse der Machtbildung, 3rd edn. Recht und Staat in Geschichte und Gegenwart, 362/363. Tübingen: Mohr.
Zurück zum Zitat Reis, Joao, Paula Espirito Santo, und Nuno Melao. 2019. Impacts of Artificial Intelligence on Public Administration: A Systematic Literature Review. In 2019 14th Iberian Conference on Information Systems and Technologies (CISTI), 1–7. 2019 14th Iberian Conference on Information Systems and Technologies (CISTI), Coimbra, Portugal. 19/06/2019 – 22/06/2019: IEEE. doi: https://doi.org/10.23919/CISTI.2019.8760893. Reis, Joao, Paula Espirito Santo, und Nuno Melao. 2019. Impacts of Artificial Intelligence on Public Administration: A Systematic Literature Review. In 2019 14th Iberian Conference on Information Systems and Technologies (CISTI), 1–7. 2019 14th Iberian Conference on Information Systems and Technologies (CISTI), Coimbra, Portugal. 19/06/2019 – 22/06/2019: IEEE. doi: https://​doi.​org/​10.​23919/​CISTI.​2019.​8760893.
Zurück zum Zitat Rumelhart, David E. 1975. Notes on a Schema for Stories. In Representation and Understanding, 211–236: Elsevier. Rumelhart, David E. 1975. Notes on a Schema for Stories. In Representation and Understanding, 211–236: Elsevier.
Zurück zum Zitat Schütz, Alfred. 1972. Gesammelte Aufsätze. Dordrecht: Springer Netherlands.CrossRef Schütz, Alfred. 1972. Gesammelte Aufsätze. Dordrecht: Springer Netherlands.CrossRef
Zurück zum Zitat Tomasello, Michael. 2010. Origins of human communication, 1st edn. A Bradford book. Cambridge, Mass., London: MIT Press. Tomasello, Michael. 2010. Origins of human communication, 1st edn. A Bradford book. Cambridge, Mass., London: MIT Press.
Zurück zum Zitat van Dijck, Jose. 2014. Datafication, dataism and dataveillance: Big Data between scientific paradigm and ideology. Surveillance & Society 12 (2): 197–208.CrossRef van Dijck, Jose. 2014. Datafication, dataism and dataveillance: Big Data between scientific paradigm and ideology. Surveillance & Society 12 (2): 197–208.CrossRef
Zurück zum Zitat Wachter, Sandra, Brent Mittelstadt, und Chris Russell. 2017. Counterfactual Explanations Without Opening the Black Box: Automated Decisions and the GDPR. SSRN Electronic Journal. Wachter, Sandra, Brent Mittelstadt, und Chris Russell. 2017. Counterfactual Explanations Without Opening the Black Box: Automated Decisions and the GDPR. SSRN Electronic Journal.
Zurück zum Zitat Weidinger, Laura, Jonathan Uesato, Maribeth Rauh, Conor Griffin, Po-Sen Huang, John Mellor, Amelia Glaese, Myra Cheng, Borja Balle, Atoosa Kasirzadeh, Courtney Biles, Sasha Brown, Zac Kenton, Will Hawkins, Tom Stepleton, Abeba Birhane, Lisa Anne Hendricks, Laura Rimell, William Isaac, Julia Haas, Sean Legassick, Geoffrey Irving, und Iason Gabriel. 2022. Taxonomy of Risks posed by Language Models. In 2022 ACM Conference on Fairness, Accountability, and Transparency, 214–229. FAccT ‘22: 2022 ACM Conference on Fairness, Accountability, and Transparency, Seoul Republic of Korea. 21 06 2022 24 06 2022. New York, NY, USA: ACM. doi: https://doi.org/10.1145/3531146.3533088. Weidinger, Laura, Jonathan Uesato, Maribeth Rauh, Conor Griffin, Po-Sen Huang, John Mellor, Amelia Glaese, Myra Cheng, Borja Balle, Atoosa Kasirzadeh, Courtney Biles, Sasha Brown, Zac Kenton, Will Hawkins, Tom Stepleton, Abeba Birhane, Lisa Anne Hendricks, Laura Rimell, William Isaac, Julia Haas, Sean Legassick, Geoffrey Irving, und Iason Gabriel. 2022. Taxonomy of Risks posed by Language Models. In 2022 ACM Conference on Fairness, Accountability, and Transparency, 214–229. FAccT ‘22: 2022 ACM Conference on Fairness, Accountability, and Transparency, Seoul Republic of Korea. 21 06 2022 24 06 2022. New York, NY, USA: ACM. doi: https://​doi.​org/​10.​1145/​3531146.​3533088.
Zurück zum Zitat Weizenbaum, Joseph. 1966. ELIZA—a computer program for the study of natural language communication between man and machine. Communications of the ACM, 9 (1): 36-45.CrossRef Weizenbaum, Joseph. 1966. ELIZA—a computer program for the study of natural language communication between man and machine. Communications of the ACM, 9 (1): 36-45.CrossRef
Zurück zum Zitat Zuboff, Shoshana. 2020. The age of surveillance capitalism. The fight for a human future at the new frontier of power. New York, NY: PublicAffairs. Zuboff, Shoshana. 2020. The age of surveillance capitalism. The fight for a human future at the new frontier of power. New York, NY: PublicAffairs.
Metadaten
Titel
Risiken und Gefahren der ‚Künstlichen‘ ‚Intelligenz‘
verfasst von
Reinhard Kreissl
Roger von Laufenberg
Copyright-Jahr
2024
DOI
https://doi.org/10.1007/978-3-658-43521-9_10

Premium Partner