Skip to main content
Top

2024 | OriginalPaper | Chapter

Normierung, Regulierung, Governance: Wie, von wem und mit welchen Mitteln kann der Einsatz Künstlicher Intelligenz gesellschaftlich gestaltet werden?

Authors : Karsten Weber, Nadine Kleine

Published in: Künstliche Intelligenz, Mensch und Gesellschaft

Publisher: Springer Fachmedien Wiesbaden

Activate our intelligent search to find suitable subject content or patents.

search-config
loading …

Zusammenfassung

KI-Regulierung bzw. -Normierung und Governance sind nicht nur aufgrund des raschen technischen Wandels ein schwieriges Unterfangen; allein die Komplexität des Feldes und dessen soziale, ökonomische, gesellschaftliche und politische Aspekte selbst bringen weitreichende und miteinander wechselwirkende Herausforderungen mit sich. Angesichts globalisierter Forschung und Entwicklung an sowie des weltweiten Einsatzes von KI sind nationalstaatliche Regulierungen vermutlich zum Scheitern verurteilt; supranationale Normierung, Regulierung, und Governance bringen wiederum das Problem der Durchsetzbarkeit mit sich. Nicht zuletzt deshalb unterscheiden sich aktuelle Gestaltungsansätze bspw. stark in Hinblick auf ihren Entwicklungsstatus und ihre Wirkmächtigkeit, weil die dahinterstehenden Akteur*innen über unterschiedliche Eingriffsreichweiten und -tiefen verfügen. Unterschiedliche Akteur*innengruppen ringen um die Deutungshoheit und verschiedenste Interessenslagen fließen in den Diskurs über Normierung, Regulierung und Governance ein. Die Komplexität wird zudem dadurch erhöht, dass KI direkt und indirekt reguliert und normiert werden kann, es aber gleichzeitig auch Regulierung und Normierung menschlichen Handels durch KI gibt. Der Beitrag soll die Komplexität des Feldes aufzeigen, Typen von Akteur*innen vorstellen, verschiedene Gestaltungsansätze beschreiben und eine vorläufige Abschätzung der Möglichkeiten von Normierung, Regulierung und Governance von KI geben.

Dont have a licence yet? Then find out more about our products and how to get one now:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Footnotes
1
Das CUDOS-Schema stellt eine normative Konzeption von Wissenschaft dar und steht für: C = Communisms (manchmal auch: Communitarianism) – alle Erkenntnisse der Wissenschaft sollen allen Interessierten frei zur Verfügung stehen; U = Universalism – niemand darf aufgrund von ethnischer Zugehörigkeit, Religion, Geschlecht etc. aus der Wissenschaft ausgeschlossen werden; D = Desinterestedness – Wissenschaft soll nicht um der Verfolgung eigennütziger Ziele betrieben werden; OS = Organized Scepticisms – wissenschaftliche Aussagen müssen stets rigoros geprüft, dogmatische Ansprüche müssen abgewiesen werden. Merton hat diese Konzeption von Wissenschaft in Reaktion auf den Umgang mit jüdischen Wissenschaftler:innen im nationalsozialistischen Deutschland entwickelt; sie stellt ein Ideal von Wissenschaft dar, keine Beschreibung. Trotzdem hat CUDOS das (öffentliche) Bild von Wissenschaft stark geprägt (bspw. Bray & von Storch 2017; Kuipers 2009; Macfarlane & Cheng 2008; Meyer & Sandøe 2012; Moriarty 2011) und wird – wenn auch oft implizit – meist dann herbeizitiert, wenn der Eindruck entsteht, dass Wissenschaft ebenfalls ein primär interessengeleitetes Unterfangen sei.
 
Literature
go back to reference Bender, E. M., T. Gebru, A. McMillan-Major, und S. Shmitchell. 2021. On the dangers of stochastic parrots: Can language models be too big? Proceedings of the 2021 ACM conference on fairness, accountability, and transparency, 610–623. https://doi.org/10.1145/3442188.3445922 Bender, E. M., T. Gebru, A. McMillan-Major, und S. Shmitchell. 2021. On the dangers of stochastic parrots: Can language models be too big? Proceedings of the 2021 ACM conference on fairness, accountability, and transparency, 610–623. https://​doi.​org/​10.​1145/​3442188.​3445922
go back to reference Bijker, W. E., T.P. Hughes, und T.J. Pinch. (Hrsg.). 1987. The social construction of technological systems: New directions in the sociology and history of technology. MIT Press. Bijker, W. E., T.P. Hughes, und T.J. Pinch. (Hrsg.). 1987. The social construction of technological systems: New directions in the sociology and history of technology. MIT Press.
go back to reference Crootof, Rebecca. 2019. “Cyborg justice” and the risk of technological-legal lock-in. Columbia Law Review, 119(7): 233–251. Crootof, Rebecca. 2019. “Cyborg justice” and the risk of technological-legal lock-in. Columbia Law Review, 119(7): 233–251.
go back to reference Hamid, O. H., N. L. Smith, und A. Barzanji. 2017. Automation, per se, is not job elimination: How artificial intelligence forwards cooperative human-machine coexistence. 2017 IEEE 15th International Conference on Industrial Informatics (INDIN), 899–904. https://doi.org/10.1109/INDIN.2017.8104891 Hamid, O. H., N. L. Smith, und A. Barzanji. 2017. Automation, per se, is not job elimination: How artificial intelligence forwards cooperative human-machine coexistence. 2017 IEEE 15th International Conference on Industrial Informatics (INDIN), 899–904. https://​doi.​org/​10.​1109/​INDIN.​2017.​8104891
go back to reference Jipp, Meike, und J. Steil. 2021. Steuern wir oder werden wir gesteuert? Chancen und Risiken von Mensch-Technik-Interaktion. In Zusammenwirken von natürlicher und künstlicher Intelligenz, hrsg. R. Haux, K. Gahl, M. Jipp, R. Kruse, und O. Richter, 17–34. Springer Fachmedien. https://doi.org/10.1007/978-3-658-30882-7_3 Jipp, Meike, und J. Steil. 2021. Steuern wir oder werden wir gesteuert? Chancen und Risiken von Mensch-Technik-Interaktion. In Zusammenwirken von natürlicher und künstlicher Intelligenz, hrsg. R. Haux, K. Gahl, M. Jipp, R. Kruse, und O. Richter, 17–34. Springer Fachmedien. https://​doi.​org/​10.​1007/​978-3-658-30882-7_​3
go back to reference Kauffmann, Anna L., J. Hennrich, C. Buch, und T. Eymann. 2022. Künstliche Intelligenz in der Radiologie und Strahlentherapie aus der Perspektive von Ärzten und Medizinphysikexperten: Eine Interviewstudie. In Künstliche Intelligenz im Gesundheitswesen, hrsg. M. A. Pfannstiel, 617–638. Springer Fachmedien. https://doi.org/10.1007/978-3-658-33597-7_29 Kauffmann, Anna L., J. Hennrich, C. Buch, und T. Eymann. 2022. Künstliche Intelligenz in der Radiologie und Strahlentherapie aus der Perspektive von Ärzten und Medizinphysikexperten: Eine Interviewstudie. In Künstliche Intelligenz im Gesundheitswesen, hrsg. M. A. Pfannstiel, 617–638. Springer Fachmedien. https://​doi.​org/​10.​1007/​978-3-658-33597-7_​29
go back to reference Korinek, A., und J. E. Stiglitz. 2019. Artificial intelligence and its implications for income distribution and unemployment. In The economics of artificial intelligence. An agenda, hsrg. A. Agrawal, J. Gans, und A. Goldfarb, 349–390. University of Chicago Press. Korinek, A., und J. E. Stiglitz. 2019. Artificial intelligence and its implications for income distribution and unemployment. In The economics of artificial intelligence. An agenda, hsrg. A. Agrawal, J. Gans, und A. Goldfarb, 349–390. University of Chicago Press.
go back to reference Krug, H., U. Bittner, V. Rolfes, H. Fangerau und K. Weber. 2020. Verunsicherung des ärztlichen Selbstverständnisses durch Künstliche Intelligenz? Ein Überblick über potenzielle Auswirkungen ihres Einsatzes im ärztlichen Alltag. In Unsicherheit in der Medizin (Jahrbuch für Ethik in der Klinik 2020), hrsg. A. Frewer, L. Bergemann, und E. Langmann, 195–210. Königshausen und Neumann. Krug, H., U. Bittner, V. Rolfes, H. Fangerau und K. Weber. 2020. Verunsicherung des ärztlichen Selbstverständnisses durch Künstliche Intelligenz? Ein Überblick über potenzielle Auswirkungen ihres Einsatzes im ärztlichen Alltag. In Unsicherheit in der Medizin (Jahrbuch für Ethik in der Klinik 2020), hrsg. A. Frewer, L. Bergemann, und E. Langmann, 195–210. Königshausen und Neumann.
go back to reference Kuipers, T. A. F. 2009. The gray area for incorruptible scientific research: An exploration guided by Merton’s norms conceived as ‘default-norms’. In EPSA Epistemology and Methodology of Science, hrsg. M. Suárez, M. Dorato, und M. Rédei, 149–164. Springer Netherlands. https://doi.org/10.1007/978-90-481-3263-8_13 Kuipers, T. A. F. 2009. The gray area for incorruptible scientific research: An exploration guided by Merton’s norms conceived as ‘default-norms’. In EPSA Epistemology and Methodology of Science, hrsg. M. Suárez, M. Dorato, und M. Rédei, 149–164. Springer Netherlands. https://​doi.​org/​10.​1007/​978-90-481-3263-8_​13
go back to reference Mangini, V., I. Tal, und A.-N. Moldovan. 2020. An empirical study on the impact of GDPR and right to be forgotten—Organisations and users perspective. Proceedings of the 15th International Conference on Availability, Reliability and Security, 1–9. https://doi.org/10.1145/3407023.3407080 Mangini, V., I. Tal, und A.-N. Moldovan. 2020. An empirical study on the impact of GDPR and right to be forgotten—Organisations and users perspective. Proceedings of the 15th International Conference on Availability, Reliability and Security, 1–9. https://​doi.​org/​10.​1145/​3407023.​3407080
go back to reference Merton, R. K. 1974 [1942]. The normative structure of science. In The sociology of science, hrsg. R. K. Merton, 267–278. University of Chicago Press. Merton, R. K. 1974 [1942]. The normative structure of science. In The sociology of science, hrsg. R. K. Merton, 267–278. University of Chicago Press.
go back to reference Moriarty, P. 2011. Science as a public good. In A manifesto for the public university, hrsg. J. Holmwood, 56–73. Bloomsbury Academic. Moriarty, P. 2011. Science as a public good. In A manifesto for the public university, hrsg. J. Holmwood, 56–73. Bloomsbury Academic.
go back to reference Pechmann, L., M. Mildner, T. Suthau, und M. Leucker. 2022. Regulatorische Anforderungen an Lösungen der künstlichen Intelligenz im Gesundheitswesen. In Künstliche Intelligenz im Gesundheitswesen, hrsg. M. A. Pfannstiel, 175–198. Springer Fachmedien. https://doi.org/10.1007/978-3-658-33597-7_8 Pechmann, L., M. Mildner, T. Suthau, und M. Leucker. 2022. Regulatorische Anforderungen an Lösungen der künstlichen Intelligenz im Gesundheitswesen. In Künstliche Intelligenz im Gesundheitswesen, hrsg. M. A. Pfannstiel, 175–198. Springer Fachmedien. https://​doi.​org/​10.​1007/​978-3-658-33597-7_​8
go back to reference Raji, I. D., T. Gebru, M. Mitchell, J. Buolamwini, J. Lee, und E. Denton. 2020. Saving face: Investigating the ethical concerns of facial recognition auditing. Proceedings of the AAAI/ACM conference on AI, ethics, and society, 145–151. https://doi.org/10.1145/3375627.3375820 Raji, I. D., T. Gebru, M. Mitchell, J. Buolamwini, J. Lee, und E. Denton. 2020. Saving face: Investigating the ethical concerns of facial recognition auditing. Proceedings of the AAAI/ACM conference on AI, ethics, and society, 145–151. https://​doi.​org/​10.​1145/​3375627.​3375820
go back to reference Schiff, D. S., K. Laas, J. B. Biddle, und J. Borenstein. 2022. Global AI ethics documents: What they reveal about motivations, practices, and policies. In Codes of ethics and ethical guidelines, hrsg. K. Laas, M. Davis, und E. Hildt, 23: 121–143). Springer International Publishing. https://doi.org/10.1007/978-3-030-86201-5_7 Schiff, D. S., K. Laas, J. B. Biddle, und J. Borenstein. 2022. Global AI ethics documents: What they reveal about motivations, practices, and policies. In Codes of ethics and ethical guidelines, hrsg. K. Laas, M. Davis, und E. Hildt, 23: 121–143). Springer International Publishing. https://​doi.​org/​10.​1007/​978-3-030-86201-5_​7
go back to reference Schneider, D. 2022. Ethische und professionsspezifische Herausforderungen. Der Diskurs um algorithmische Systeme der Entscheidungsunterstützung im Kontext der Teilhabeplanung für Menschen mit Behinderung. In Künstliche Intelligenz und Gesundheit. Ethische, philosophische und sozialwissenschaftliche Explorationen, hrsg. A. Sonar, und K. Weber, 87–132. Steiner. Schneider, D. 2022. Ethische und professionsspezifische Herausforderungen. Der Diskurs um algorithmische Systeme der Entscheidungsunterstützung im Kontext der Teilhabeplanung für Menschen mit Behinderung. In Künstliche Intelligenz und Gesundheit. Ethische, philosophische und sozialwissenschaftliche Explorationen, hrsg. A. Sonar, und K. Weber, 87–132. Steiner.
go back to reference Schneider, D., A. Sonar, und K. Weber. 2022. Zwischen Automatisierung und ethischem Anspruch – Disruptive Effekte des KI-Einsatzes in und auf Professionen der Gesundheitsversorgung. In Künstliche Intelligenz im Gesundheitswesen, hrsg. M. A. Pfannstiel, 325–348. Springer Fachmedien. https://doi.org/10.1007/978-3-658-33597-7_14 Schneider, D., A. Sonar, und K. Weber. 2022. Zwischen Automatisierung und ethischem Anspruch – Disruptive Effekte des KI-Einsatzes in und auf Professionen der Gesundheitsversorgung. In Künstliche Intelligenz im Gesundheitswesen, hrsg. M. A. Pfannstiel, 325–348. Springer Fachmedien. https://​doi.​org/​10.​1007/​978-3-658-33597-7_​14
go back to reference Weber, Karsten. 2022. Das öffentliche Bild der Künstlichen Intelligenz. In Künstliche Intelligenz und Gesundheit. Ethische, philosophische und sozialwissenschaftliche Explorationen, hrsg. A. Sonar, und K. Weber, 207–226. Steiner. Weber, Karsten. 2022. Das öffentliche Bild der Künstlichen Intelligenz. In Künstliche Intelligenz und Gesundheit. Ethische, philosophische und sozialwissenschaftliche Explorationen, hrsg. A. Sonar, und K. Weber, 207–226. Steiner.
Metadata
Title
Normierung, Regulierung, Governance: Wie, von wem und mit welchen Mitteln kann der Einsatz Künstlicher Intelligenz gesellschaftlich gestaltet werden?
Authors
Karsten Weber
Nadine Kleine
Copyright Year
2024
DOI
https://doi.org/10.1007/978-3-658-43521-9_8

Premium Partner