Skip to main content

2022 | OriginalPaper | Buchkapitel

Vertrauen Sie KI? Einblicke in das Thema Künstliche Intelligenz und warum Vertrauen eine Schlüsselrolle im Umgang mit neuen Technologien spielt

verfasst von : Marisa Tschopp, Marc Ruef, Dagmar Monett

Erschienen in: Kreativität und Innovation in Organisationen

Verlag: Springer Berlin Heidelberg

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Zusammenfassung

No trust, no use? Oft wird Vertrauen als kritischer Erfolgsfaktor propagiert, wenn es um die Nutzung von neuen Technologien geht, vor allem wenn es sich um intelligente Systeme, sogenannte KI (Künstliche Intelligenz) handelt. Diese finden nämlich immer mehr Eingang in die heutige Gesellschaft, sowohl im privaten (z. B. Einkaufen mit Amazons KI-basiertem Smart Speaker Alexa) als auch im beruflichen oder schulischen Umfeld (z. B. intelligente Systeme, die die Personalauswahl oder Lernprozesse unterstützen sollen). Der Einsatz von smarten, ubiquitären Technologien erhöht die Unsicherheit und Skepsis, gerade bei EndanwenderInnen ohne technisches Verständnis, und verschärft das Spannungsfeld zwischen Mensch, Maschine und Gesellschaft. Die Vertrauensfrage wird ins Rampenlicht gerückt. Ist Vertrauen der KonsumentInnen die Lösung, um das hochgelobte Potenzial der künstlichen Intelligenz voll auszunutzen? Ganz so einfach ist es nicht. Unklarheiten in Definitionen, Sprachgebrauch und Messmethoden verwässern das Verständnis um die Zusammenhänge von Vertrauen und Nutzen. Es ist über die unterschiedlichen Disziplinen hinweg nicht eindeutig geklärt, ob die Nutzung von neuen Technologien, insbesondere KI, tatsächlich mit Vertrauen einhergeht, für welchen Zweck und Vertrauen in wen: Die HerstellerInnen? Die DesignerInnen? Wie kann Vertrauen und Nutzung abgegrenzt werden? Dieser Beitrag hat zum Ziel, kuriose Geschichten und Behauptungen rund um KI und Vertrauen zu entmystifizieren, um letztlich Künstliche Intelligenz besser in die Praxis zu bringen. Dazu braucht es einen transdisziplinären und vor allem adressatengerechten Diskurs darüber, was intelligente Systeme sind, und eine differenzierte Auseinandersetzung damit, welche Rolle Vertrauen dabei spielen könnte. Es gibt nämlich auch die Vertrauens-SkeptikerInnen, die vehement die Meinung vertreten, dass Vertrauen im Kontext KI überhaupt keine Rolle spielt. Wir argumentieren, dass Vertrauen – vor allem im Endanwenderkontext – eine wichtige Variable ist, welche nicht nur die Adoption, sondern auch die Art und Weise, wie KI-basierte Systeme genutzt werden, maßgeblich beeinflusst. Anhand von praktischen Beispielen wollen wir aufzeigen, dass ein angemessen kalibriertes Vertrauensniveau nicht nur zu einem effizienteren, sicheren und synergetischen Umgang mit KI-basierten oder automatisierten Systemen führt, sondern sogar Leben retten kann.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Literatur
Zurück zum Zitat Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. University Press. Bostrom, N. (2014). Superintelligence: Paths, dangers, strategies. University Press.
Zurück zum Zitat Botsman, R. (2017). Who can you trust? How technology brought us together and why it could drive us apart.. Portfolio Penguin. Botsman, R. (2017). Who can you trust? How technology brought us together and why it could drive us apart.. Portfolio Penguin.
Zurück zum Zitat Brundage, M., Avin, S., Clark, J., Toner, H., Eckersley, P., Garfinkel, B., Dafoe, A., Scharre P., Zeitzoff, T., Filar, B., Anderson, H., Roff, H., Allen, G. C., Steinhardt, J., Flynn, C., hÉigeartaigh, S. Ó., Beard, S., Belfield, H., Farquhar, S., Lyle, C., Crootof, R., Evans, O., Page, M., Bryson, J., Yampolskiy, R., & Amode, D. (2018). The malicious use of artificial intelligence: Forecasting, prevention, and mitigation. https://arxiv.org/ftp/arxiv/papers/1802/1802.07228.pdf. (Stand 07.12.2020). Brundage, M., Avin, S., Clark, J., Toner, H., Eckersley, P., Garfinkel, B., Dafoe, A., Scharre P., Zeitzoff, T., Filar, B., Anderson, H., Roff, H., Allen, G. C., Steinhardt, J., Flynn, C., hÉigeartaigh, S. Ó., Beard, S., Belfield, H., Farquhar, S., Lyle, C., Crootof, R., Evans, O., Page, M., Bryson, J., Yampolskiy, R., & Amode, D. (2018). The malicious use of artificial intelligence: Forecasting, prevention, and mitigation. https://​arxiv.​org/​ftp/​arxiv/​papers/​1802/​1802.​07228.​pdf. (Stand 07.12.2020).
Zurück zum Zitat Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, 81, 1–15. Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, 81, 1–15.
Zurück zum Zitat Hengstler, M., Enkel, M., & Duelli, S. (2016). Applied artificial intelligence and trust – The case of autonomous vehicles and medical assistance devices. Technological Forecasting and Social Change, 105, 105–120.CrossRef Hengstler, M., Enkel, M., & Duelli, S. (2016). Applied artificial intelligence and trust – The case of autonomous vehicles and medical assistance devices. Technological Forecasting and Social Change, 105, 105–120.CrossRef
Zurück zum Zitat Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80.CrossRef Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80.CrossRef
Zurück zum Zitat Lemke, C., & Monett, D. (2020). KI und Automatisierung: Wirkung auf die Arbeit der Zukunft. In: J. Nachtwei & A. Sureth (Hrsg.), VQP. VQP, Sonderband Zukunft der Arbeit, Human Resources Consulting Review Band 12 (S. 400–403). Lemke, C., & Monett, D. (2020). KI und Automatisierung: Wirkung auf die Arbeit der Zukunft. In: J. Nachtwei & A. Sureth (Hrsg.), VQP. VQP, Sonderband Zukunft der Arbeit, Human Resources Consulting Review Band 12 (S. 400–403).
Zurück zum Zitat Mayer, R. C., Davis, J. H., & Schoorman, F. D. (1995). An integrative model of organizational trust. Academy of Management Review, 20(3), 709–734.CrossRef Mayer, R. C., Davis, J. H., & Schoorman, F. D. (1995). An integrative model of organizational trust. Academy of Management Review, 20(3), 709–734.CrossRef
Zurück zum Zitat McCorduck, P. (2004). Machines who think: A personal inquiry into the history and prospects of artificial intelligence. (2. Aufl.). A. K. Peters.CrossRef McCorduck, P. (2004). Machines who think: A personal inquiry into the history and prospects of artificial intelligence. (2. Aufl.). A. K. Peters.CrossRef
Zurück zum Zitat Minsky, M. (1985). The society of mind. Simon and Schuster. Minsky, M. (1985). The society of mind. Simon and Schuster.
Zurück zum Zitat Müller, V. C., & Bostrom, N. (2016). Future progress in artificial intelligence: A survey of expert opinion. In: V. Müller (Hrsg.), Fundamental Issues of Artificial Intelligence. Synthese Library (Studies in Epistemology, Logic, Methodology, and Philosophy of Science) (S. 376). Springer International Publishing. Müller, V. C., & Bostrom, N. (2016). Future progress in artificial intelligence: A survey of expert opinion. In: V. Müller (Hrsg.), Fundamental Issues of Artificial Intelligence. Synthese Library (Studies in Epistemology, Logic, Methodology, and Philosophy of Science) (S. 376). Springer International Publishing.
Zurück zum Zitat Parasuraman, R., Sheridan, T., & Wickens, C. (2000). A model for types and levels of human interaction with automation. IEEE Transactions on Systems, Man, and Cybernetics – Part A: Systems and Humans, 30(3), 286–297. https://doi.org/10.1109/3468.844354. Parasuraman, R., Sheridan, T., & Wickens, C. (2000). A model for types and levels of human interaction with automation. IEEE Transactions on Systems, Man, and Cybernetics – Part A: Systems and Humans, 30(3), 286–297. https://​doi.​org/​10.​1109/​3468.​844354.
Zurück zum Zitat Russell, S. J., & Norvig, P. (2012). Künstliche Intelligenz. Ein moderner Ansatz. (3. Aufl.). Pearson. Russell, S. J., & Norvig, P. (2012). Künstliche Intelligenz. Ein moderner Ansatz. (3. Aufl.). Pearson.
Zurück zum Zitat Schafheitle, S. D., Weibel, A., Ebert, I. L., Kasper, G., Schank, C., & Leicht-Deobald, U. (2020). No stone left unturned? Towards a framework for the impact of datafication technologies on organizational control [Manuskript in Druck]. Academy of Management Discoveries. https://doi.org/10.5465/amd.2019.0002.CrossRef Schafheitle, S. D., Weibel, A., Ebert, I. L., Kasper, G., Schank, C., & Leicht-Deobald, U. (2020). No stone left unturned? Towards a framework for the impact of datafication technologies on organizational control [Manuskript in Druck]. Academy of Management Discoveries. https://​doi.​org/​10.​5465/​amd.​2019.​0002.CrossRef
Zurück zum Zitat Sternberg, R. J. (2013). Intelligence. In D. K. Freedheim & I. B. Weiner (Hrsg.), Handbook of psychology: History of psychology (S. 155–176). Wiley. Sternberg, R. J. (2013). Intelligence. In D. K. Freedheim & I. B. Weiner (Hrsg.), Handbook of psychology: History of psychology (S. 155–176). Wiley.
Zurück zum Zitat Stone, P., Brooks, R., Brynjolfsson, E., Calo, R., Etzioni, O., Hager, G., Hirschberg, J., Kalyanakrishnan, S., Kamar, E., Kraus, S., Leyton-Brown, K., Parkes, D., Press, W., Saxenian, A., Shah, J., Tambe, M., & Tellert, A. (2016). “Artificial intelligence and life in 2030.” One hundred year study on artificial intelligence: Report of the 2015–2016 study panel. Stanford University, Stanford, CA. https://ai100.stanford.edu. (Stand: 13.7.2020). Stone, P., Brooks, R., Brynjolfsson, E., Calo, R., Etzioni, O., Hager, G., Hirschberg, J., Kalyanakrishnan, S., Kamar, E., Kraus, S., Leyton-Brown, K., Parkes, D., Press, W., Saxenian, A., Shah, J., Tambe, M., & Tellert, A. (2016). “Artificial intelligence and life in 2030.” One hundred year study on artificial intelligence: Report of the 2015–2016 study panel. Stanford University, Stanford, CA. https://​ai100.​stanford.​edu. (Stand: 13.7.2020).
Zurück zum Zitat Stower, R., Calvo-Barajas, N., Castellano, G., & Kappas, A. (in press). A meta-analysis on children’s trust in social robots. International Journal of Social Robotics (in press). Stower, R., Calvo-Barajas, N., Castellano, G., & Kappas, A. (in press). A meta-analysis on children’s trust in social robots. International Journal of Social Robotics (in press).
Zurück zum Zitat Tschopp, M., & Ruef, M. (2018). An Interdisciplinary Approach to Artificial Intelligence Testing: Developing an Artificial Intelligence Quotient (A-IQ) for Conversational AI. scip labs. Tschopp, M., & Ruef, M. (2018). An Interdisciplinary Approach to Artificial Intelligence Testing: Developing an Artificial Intelligence Quotient (A-IQ) for Conversational AI. scip labs.
Zurück zum Zitat Tschopp, M., & Ruef, M. (2019). Artificial intelligence – Is it worth the risk? scip labs. Tschopp, M., & Ruef, M. (2019). Artificial intelligence – Is it worth the risk? scip labs.
Zurück zum Zitat Tschopp, M., & Schafheitle, S. (2020). KI und Führung KI: Heute Hü, Morgen Hott? In J. Nachtwei & A. Sureth (Hrsg.), VQP, Sonderband Zukunft der Arbeit, Human Resources Consulting Review Band 12 (S. 420–423). Tschopp, M., & Schafheitle, S. (2020). KI und Führung KI: Heute Hü, Morgen Hott? In J. Nachtwei & A. Sureth (Hrsg.), VQP, Sonderband Zukunft der Arbeit, Human Resources Consulting Review Band 12 (S. 420–423).
Zurück zum Zitat Vallor, S., Green, B., & Raicu, I. (2018). Ethics in technology practice: An overview. The Markkula Center for Applied Ethics at Santa Clara University. Vallor, S., Green, B., & Raicu, I. (2018). Ethics in technology practice: An overview. The Markkula Center for Applied Ethics at Santa Clara University.
Zurück zum Zitat Wang, P. (1995). Non-axiomatic reasoning system: Exploring the essence of intelligence. Doctoral dissertation, Indiana University. https://bit.ly/Wang1995. (Stand: 20.7.2020). Wang, P. (1995). Non-axiomatic reasoning system: Exploring the essence of intelligence. Doctoral dissertation, Indiana University. https://​bit.​ly/​Wang1995. (Stand: 20.7.2020).
Zurück zum Zitat Winston, P. H. (1992). Artificial intelligence. (3. Aufl.). Addison-Wesley. Winston, P. H. (1992). Artificial intelligence. (3. Aufl.). Addison-Wesley.
Zurück zum Zitat Wooldridge, M. (2020). The road to conscious machines: The story of AI. Pelican, Penguin Random House. Wooldridge, M. (2020). The road to conscious machines: The story of AI. Pelican, Penguin Random House.
Metadaten
Titel
Vertrauen Sie KI? Einblicke in das Thema Künstliche Intelligenz und warum Vertrauen eine Schlüsselrolle im Umgang mit neuen Technologien spielt
verfasst von
Marisa Tschopp
Marc Ruef
Dagmar Monett
Copyright-Jahr
2022
Verlag
Springer Berlin Heidelberg
DOI
https://doi.org/10.1007/978-3-662-63117-1_16

Premium Partner