Skip to main content
Top

2022 | OriginalPaper | Chapter

Vertrauen Sie KI? Einblicke in das Thema Künstliche Intelligenz und warum Vertrauen eine Schlüsselrolle im Umgang mit neuen Technologien spielt

Authors : Marisa Tschopp, Marc Ruef, Dagmar Monett

Published in: Kreativität und Innovation in Organisationen

Publisher: Springer Berlin Heidelberg

Activate our intelligent search to find suitable subject content or patents.

search-config
loading …

Zusammenfassung

No trust, no use? Oft wird Vertrauen als kritischer Erfolgsfaktor propagiert, wenn es um die Nutzung von neuen Technologien geht, vor allem wenn es sich um intelligente Systeme, sogenannte KI (Künstliche Intelligenz) handelt. Diese finden nämlich immer mehr Eingang in die heutige Gesellschaft, sowohl im privaten (z. B. Einkaufen mit Amazons KI-basiertem Smart Speaker Alexa) als auch im beruflichen oder schulischen Umfeld (z. B. intelligente Systeme, die die Personalauswahl oder Lernprozesse unterstützen sollen). Der Einsatz von smarten, ubiquitären Technologien erhöht die Unsicherheit und Skepsis, gerade bei EndanwenderInnen ohne technisches Verständnis, und verschärft das Spannungsfeld zwischen Mensch, Maschine und Gesellschaft. Die Vertrauensfrage wird ins Rampenlicht gerückt. Ist Vertrauen der KonsumentInnen die Lösung, um das hochgelobte Potenzial der künstlichen Intelligenz voll auszunutzen? Ganz so einfach ist es nicht. Unklarheiten in Definitionen, Sprachgebrauch und Messmethoden verwässern das Verständnis um die Zusammenhänge von Vertrauen und Nutzen. Es ist über die unterschiedlichen Disziplinen hinweg nicht eindeutig geklärt, ob die Nutzung von neuen Technologien, insbesondere KI, tatsächlich mit Vertrauen einhergeht, für welchen Zweck und Vertrauen in wen: Die HerstellerInnen? Die DesignerInnen? Wie kann Vertrauen und Nutzung abgegrenzt werden? Dieser Beitrag hat zum Ziel, kuriose Geschichten und Behauptungen rund um KI und Vertrauen zu entmystifizieren, um letztlich Künstliche Intelligenz besser in die Praxis zu bringen. Dazu braucht es einen transdisziplinären und vor allem adressatengerechten Diskurs darüber, was intelligente Systeme sind, und eine differenzierte Auseinandersetzung damit, welche Rolle Vertrauen dabei spielen könnte. Es gibt nämlich auch die Vertrauens-SkeptikerInnen, die vehement die Meinung vertreten, dass Vertrauen im Kontext KI überhaupt keine Rolle spielt. Wir argumentieren, dass Vertrauen – vor allem im Endanwenderkontext – eine wichtige Variable ist, welche nicht nur die Adoption, sondern auch die Art und Weise, wie KI-basierte Systeme genutzt werden, maßgeblich beeinflusst. Anhand von praktischen Beispielen wollen wir aufzeigen, dass ein angemessen kalibriertes Vertrauensniveau nicht nur zu einem effizienteren, sicheren und synergetischen Umgang mit KI-basierten oder automatisierten Systemen führt, sondern sogar Leben retten kann.

Dont have a licence yet? Then find out more about our products and how to get one now:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Literature
go back to reference Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. University Press. Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. University Press.
go back to reference Botsman, R. (2017). Who can you trust? How technology brought us together and why it could drive us apart.. Portfolio Penguin. Botsman, R. (2017). Who can you trust? How technology brought us together and why it could drive us apart.. Portfolio Penguin.
go back to reference Brundage, M., Avin, S., Clark, J., Toner, H., Eckersley, P., Garfinkel, B., Dafoe, A., Scharre P., Zeitzoff, T., Filar, B., Anderson, H., Roff, H., Allen, G. C., Steinhardt, J., Flynn, C., hÉigeartaigh, S. Ó., Beard, S., Belfield, H., Farquhar, S., Lyle, C., Crootof, R., Evans, O., Page, M., Bryson, J., Yampolskiy, R., & Amode, D. (2018). The malicious use of artificial intelligence: Forecasting, prevention, and mitigation. https://arxiv.org/ftp/arxiv/papers/1802/1802.07228.pdf. (Stand 07.12.2020). Brundage, M., Avin, S., Clark, J., Toner, H., Eckersley, P., Garfinkel, B., Dafoe, A., Scharre P., Zeitzoff, T., Filar, B., Anderson, H., Roff, H., Allen, G. C., Steinhardt, J., Flynn, C., hÉigeartaigh, S. Ó., Beard, S., Belfield, H., Farquhar, S., Lyle, C., Crootof, R., Evans, O., Page, M., Bryson, J., Yampolskiy, R., & Amode, D. (2018). The malicious use of artificial intelligence: Forecasting, prevention, and mitigation. https://​arxiv.​org/​ftp/​arxiv/​papers/​1802/​1802.​07228.​pdf. (Stand 07.12.2020).
go back to reference Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, 81, 1–15. Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, 81, 1–15.
go back to reference Hengstler, M., Enkel, M., & Duelli, S. (2016). Applied artificial intelligence and trust – The case of autonomous vehicles and medical assistance devices. Technological Forecasting and Social Change, 105, 105–120.CrossRef Hengstler, M., Enkel, M., & Duelli, S. (2016). Applied artificial intelligence and trust – The case of autonomous vehicles and medical assistance devices. Technological Forecasting and Social Change, 105, 105–120.CrossRef
go back to reference Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80.CrossRef Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80.CrossRef
go back to reference Lemke, C., & Monett, D. (2020). KI und Automatisierung: Wirkung auf die Arbeit der Zukunft. In: J. Nachtwei & A. Sureth (Hrsg.), VQP. VQP, Sonderband Zukunft der Arbeit, Human Resources Consulting Review Band 12 (S. 400–403). Lemke, C., & Monett, D. (2020). KI und Automatisierung: Wirkung auf die Arbeit der Zukunft. In: J. Nachtwei & A. Sureth (Hrsg.), VQP. VQP, Sonderband Zukunft der Arbeit, Human Resources Consulting Review Band 12 (S. 400–403).
go back to reference Mayer, R. C., Davis, J. H., & Schoorman, F. D. (1995). An integrative model of organizational trust. Academy of Management Review, 20(3), 709–734.CrossRef Mayer, R. C., Davis, J. H., & Schoorman, F. D. (1995). An integrative model of organizational trust. Academy of Management Review, 20(3), 709–734.CrossRef
go back to reference McCorduck, P. (2004). Machines who think: A personal inquiry into the history and prospects of artificial intelligence. (2. Aufl.). A. K. Peters.CrossRef McCorduck, P. (2004). Machines who think: A personal inquiry into the history and prospects of artificial intelligence. (2. Aufl.). A. K. Peters.CrossRef
go back to reference Minsky, M. (1985). The society of mind. Simon and Schuster. Minsky, M. (1985). The society of mind. Simon and Schuster.
go back to reference Müller, V. C., & Bostrom, N. (2016). Future progress in artificial intelligence: A survey of expert opinion. In: V. Müller (Hrsg.), Fundamental Issues of Artificial Intelligence. Synthese Library (Studies in Epistemology, Logic, Methodology, and Philosophy of Science) (S. 376). Springer International Publishing. Müller, V. C., & Bostrom, N. (2016). Future progress in artificial intelligence: A survey of expert opinion. In: V. Müller (Hrsg.), Fundamental Issues of Artificial Intelligence. Synthese Library (Studies in Epistemology, Logic, Methodology, and Philosophy of Science) (S. 376). Springer International Publishing.
go back to reference Parasuraman, R., Sheridan, T., & Wickens, C. (2000). A model for types and levels of human interaction with automation. IEEE Transactions on Systems, Man, and Cybernetics – Part A: Systems and Humans, 30(3), 286–297. https://doi.org/10.1109/3468.844354. Parasuraman, R., Sheridan, T., & Wickens, C. (2000). A model for types and levels of human interaction with automation. IEEE Transactions on Systems, Man, and Cybernetics – Part A: Systems and Humans, 30(3), 286–297. https://​doi.​org/​10.​1109/​3468.​844354.
go back to reference Russell, S. J., & Norvig, P. (2012). Künstliche Intelligenz. Ein moderner Ansatz. (3. Aufl.). Pearson. Russell, S. J., & Norvig, P. (2012). Künstliche Intelligenz. Ein moderner Ansatz. (3. Aufl.). Pearson.
go back to reference Schafheitle, S. D., Weibel, A., Ebert, I. L., Kasper, G., Schank, C., & Leicht-Deobald, U. (2020). No stone left unturned? Towards a framework for the impact of datafication technologies on organizational control [Manuskript in Druck]. Academy of Management Discoveries. https://doi.org/10.5465/amd.2019.0002.CrossRef Schafheitle, S. D., Weibel, A., Ebert, I. L., Kasper, G., Schank, C., & Leicht-Deobald, U. (2020). No stone left unturned? Towards a framework for the impact of datafication technologies on organizational control [Manuskript in Druck]. Academy of Management Discoveries. https://​doi.​org/​10.​5465/​amd.​2019.​0002.CrossRef
go back to reference Sternberg, R. J. (2013). Intelligence. In D. K. Freedheim & I. B. Weiner (Hrsg.), Handbook of psychology: History of psychology (S. 155–176). Wiley. Sternberg, R. J. (2013). Intelligence. In D. K. Freedheim & I. B. Weiner (Hrsg.), Handbook of psychology: History of psychology (S. 155–176). Wiley.
go back to reference Stone, P., Brooks, R., Brynjolfsson, E., Calo, R., Etzioni, O., Hager, G., Hirschberg, J., Kalyanakrishnan, S., Kamar, E., Kraus, S., Leyton-Brown, K., Parkes, D., Press, W., Saxenian, A., Shah, J., Tambe, M., & Tellert, A. (2016). “Artificial intelligence and life in 2030.” One hundred year study on artificial intelligence: Report of the 2015–2016 study panel. Stanford University, Stanford, CA. https://ai100.stanford.edu. (Stand: 13.7.2020). Stone, P., Brooks, R., Brynjolfsson, E., Calo, R., Etzioni, O., Hager, G., Hirschberg, J., Kalyanakrishnan, S., Kamar, E., Kraus, S., Leyton-Brown, K., Parkes, D., Press, W., Saxenian, A., Shah, J., Tambe, M., & Tellert, A. (2016). “Artificial intelligence and life in 2030.” One hundred year study on artificial intelligence: Report of the 2015–2016 study panel. Stanford University, Stanford, CA. https://​ai100.​stanford.​edu. (Stand: 13.7.2020).
go back to reference Stower, R., Calvo-Barajas, N., Castellano, G., & Kappas, A. (in press). A meta-analysis on children’s trust in social robots. International Journal of Social Robotics (in press). Stower, R., Calvo-Barajas, N., Castellano, G., & Kappas, A. (in press). A meta-analysis on children’s trust in social robots. International Journal of Social Robotics (in press).
go back to reference Tschopp, M., & Ruef, M. (2018). An Interdisciplinary Approach to Artificial Intelligence Testing: Developing an Artificial Intelligence Quotient (A-IQ) for Conversational AI. scip labs. Tschopp, M., & Ruef, M. (2018). An Interdisciplinary Approach to Artificial Intelligence Testing: Developing an Artificial Intelligence Quotient (A-IQ) for Conversational AI. scip labs.
go back to reference Tschopp, M., & Ruef, M. (2019). Artificial intelligence – Is it worth the risk? scip labs. Tschopp, M., & Ruef, M. (2019). Artificial intelligence – Is it worth the risk? scip labs.
go back to reference Tschopp, M., & Schafheitle, S. (2020). KI und Führung KI: Heute Hü, Morgen Hott? In J. Nachtwei & A. Sureth (Hrsg.), VQP, Sonderband Zukunft der Arbeit, Human Resources Consulting Review Band 12 (S. 420–423). Tschopp, M., & Schafheitle, S. (2020). KI und Führung KI: Heute Hü, Morgen Hott? In J. Nachtwei & A. Sureth (Hrsg.), VQP, Sonderband Zukunft der Arbeit, Human Resources Consulting Review Band 12 (S. 420–423).
go back to reference Vallor, S., Green, B., & Raicu, I. (2018). Ethics in technology practice: An overview. The Markkula Center for Applied Ethics at Santa Clara University. Vallor, S., Green, B., & Raicu, I. (2018). Ethics in technology practice: An overview. The Markkula Center for Applied Ethics at Santa Clara University.
go back to reference Winston, P. H. (1992). Artificial intelligence. (3. Aufl.). Addison-Wesley. Winston, P. H. (1992). Artificial intelligence. (3. Aufl.). Addison-Wesley.
go back to reference Wooldridge, M. (2020). The road to conscious machines: The story of AI. Pelican, Penguin Random House. Wooldridge, M. (2020). The road to conscious machines: The story of AI. Pelican, Penguin Random House.
Metadata
Title
Vertrauen Sie KI? Einblicke in das Thema Künstliche Intelligenz und warum Vertrauen eine Schlüsselrolle im Umgang mit neuen Technologien spielt
Authors
Marisa Tschopp
Marc Ruef
Dagmar Monett
Copyright Year
2022
Publisher
Springer Berlin Heidelberg
DOI
https://doi.org/10.1007/978-3-662-63117-1_16

Premium Partner