Skip to main content

2021 | OriginalPaper | Buchkapitel

Warum wir der künstlichen Intelligenz nicht blind vertrauen dürfen – fünf Ansätze um künstliche Intelligenz zu beherrschen

verfasst von : Helmut Leopold

Erschienen in: CSR und Künstliche Intelligenz

Verlag: Springer Berlin Heidelberg

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Zusammenfassung

Als Gegenthese zum unreflektierten breiten Einsatz von künstlicher Intelligenz (KI) als gehypte Supertechnologie, die alle Probleme löst und sogar die Intelligenz von Menschen überflügeln sollte, werden in diesem Beitrag nach einer kurzen Einführung in die wichtigsten KI-Aspekte fünf prinzipielle Problembereiche der KI-Technologie erörtert: Modellierbarkeit – wie leiten wir aus Daten Modelle der realen Welt ab und wie stellen wir ein Modell ohne Vorurteile und Fehler her; Verifizierbarkeit – wie überprüfen wir die KI-Algorithmen; Erklärbarkeit – wie können wir Entscheidungsfindungen von KI-Systemen nachvollziehen; Ethik – wie stellen wir sicher, dass die Einhaltung ethischer Grundsätze und Werte garantiert werden; und schließlich Verantwortlichkeit – wer trägt die Verantwortung für getroffene Entscheidungen des Systems. Weiterhin werden grundsätzliche gesellschaftliche Bedrohungspotenziale im Kontext unserer Informationsgesellschaft thematisiert und die Grenzen der KI-Technologie als klare Abgrenzung zu menschlicher Intelligenz erörtert. Zusammenfassend wird hervorgehoben, dass KI-Technologieentwicklungen sowie die Rahmenbedingungen so gestaltet werden, dass KI als ein effektives und verantwortungsvolles Werkzeug für uns alle eingesetzt werden kann.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Fußnoten
1
In drei Tagen zum Internationalen Schachmeister, Spiegel, 17.9.2015, https://​www.​spiegel.​de/​netzwelt/​web/​kuenstliche-intelligenz-computer-lernt-in-72-stunden-schach-a-1053338.​html (letzter Zugriff am 22.09.2020).
 
2
KI von Elon-Musk-Startup zerstörte bei Computerspiel-Duell weltbesten Spieler, DerStandard, 12.8.2017, https://​derstandard.​at/​2000062596518/​KI-von-Elon-Musk-Startup-zerstoerte-bei-Computerspiele-Duell-weltbesten (letzter Zugriff am 22.09.2020).
 
3
Computer schreibt sechstes Buch von Game of Thrones, Frankfurter Allgemeine, 30.8.2017, https://​www.​faz.​net/​aktuell/​wirtschaft/​kuenstliche-intelligenz/​game-of-thrones-kuenstliche-intelligenz-schreibt-sechstes-buch-15175025.​html (letzter Zugriff am 22.09.2020).
 
4
Kunstwort aus „chat“ (Plaudern) und „bot“ (Roboter).
 
5
www.​ofai.​at (letzter Zugriff am 22.09.2020).
 
6
KIRAS Projekt FLORIDA – Flexibles, teilautomatisiertes Analysesystem zur Auswertung von Videomassendaten nach Terroranschlägen, https://​www.​kiras.​at/​gefoerderte-projekte/​detail/​d/​florida/​ und EU Projekt VICTORIA – Video analysis for Investigation of Criminal and TerrORIst Activities, https://​www.​victoria-project.​eu/​ (letzte Zugriffe am 22.09.2020).
 
7
EU H2020 Projekt COPKIT, https://​copkit.​eu/​ (letzter Zugriff am 22.09.2020).
 
8
WWTF-Projekt Big-DAMA – Big Data Analytics for network traffic Monitoring and Analysis, https://​bigdama.​ait.​ac.​at/​ (letzter Zugriff am 22.09.2020).
 
9
Forschungsprojekt "Natural Language Search" erfolgreich abgeschlossen, 06.03.2018, https://​www.​pressebox.​de/​pressemitteilung​/​ser-gruppe/​Forschungsprojek​t-Natural-Language-Search-erfolgreich-abgeschlossen/​boxid/​896124 (letzter Zugriff am 22.09.2020).
 
10
KIRAS Projekt CAIS Cyber Attack Information System, https://​www.​kiras.​at/​gefoerderte-projekte/​detail/​d/​cais-cyber-attack-information-system/​ (letzter Zugriff am 22.09.2020).
 
11
FFG Forschungsprojekt „Mal2“, https://​www.​malzwei.​at/​ (letzter Zugriff am 22.09.2020).
 
12
FFG Forschungsprojekt „Primming“, https://​projekte.​ffg.​at/​projekt/​3280774 (letzter Zugriff am 22.09.2020).
 
13
KIRAS Projekt „Defalsif-AI – Detektion von Falschinformationen mittels Artificial Intelligence“, www.defalsifai.at
 
16
Bei modernen Prozessortechnologien werden Milliarden Transistoren auf einem Quadratzentimeter verbaut.
 
17
An in-depth look at Google’s first Tensor Processing Unit (TPU), Google Cloud Blog, https://​cloud.​google.​com/​blog/​big-data/​2017/​05/​an-in-depth-look-at-googles-first-tensor-processing-unit-tpu (letzter Zugriff am 22.09.2020).
 
18
Intel zahlt 15,3 Mrd. Dollar für Autozulieferer, Handelsblatt, 13.03.2017, https://​www.​handelsblatt.​com/​unternehmen/​it-medien/​mobileye-intel-zahlt-15-3-milliarden-dollar-fuer-autozulieferer/​19508066.​html (letzter Zugriff: 22.9.2020).
 
19
Nicole Hemsoth, Intel, Nervana Shed Light on Deep Learning Chip Architecture, January 11, 2018, https://​www.​nextplatform.​com/​2018/​01/​11/​intel-nervana-shed-light-deep-learning-chip-architecture/​ (letzter Zugriff am 22.9. 2020).
 
20
A List of Chip/IP for Deep Learning, 11.8.2017, https://​medium.​com/​@shan.​tang.​g/​a-list-of-chip-ip-for-deep-learning-48d05f1759ae (letzter Zugriff am 22.09.2020).
 
21
https://​en.​wikipedia.​org/​wiki/​MAWI (letzter Zugriff am 22.9. 2020).
 
22
A large-scale dataset of manually annotated audio events, https://​research.​google.​com/​audioset/​ (letzter Zugriff am 22.09. 2020).
 
23
Um ähnliche Daten in Cluster zu gruppieren, werden z. B. der k-Means-Algorithmus oder auch die Methode der hierarchischen Cluster verwendet.
 
25
Sogenannte Face-Morphing-Angriffe auf Gesichtserkennungssysteme.
 
26
Selbstfahrender Tesla übersieht weißen Lkw vor Wolkenhimmel, Welt, 1.7.2016, https://​www.​welt.​de/​wirtschaft/​article156727084​/​Selbstfahrender-Tesla-uebersieht-weissen-Lkw-vor-Wolkenhimmel.​html (letzter Zugriff am 22.09.2020).
 
27
https://​www.​enable-s3.​eu/​ (letzter Zugriff am 22.9. 2020).
 
28
https://​autodrive-project.​eu/​ (letzter Zugriff am 22.09. 2020).
 
29
https://​valu3s.​eu/​ (letzter Zugriff am 22.9. 2020).
 
30
https://​vvpatterns.​ait.​ac.​at/​ (letzter Zugriff am 22.09. 2020).
 
31
Künstliche Intelligenz: Die Europäische Kommission beginnt Arbeit um Ethikstandards und modernste Technik zusammen zu bringen, Pressemitteilung der EC, 09.03.2018, https://​europa.​eu/​rapid/​press-release_​IP-18-1381_​de.​htm (letzter Zugriff am 22.9. 2020).
 
32
Von der FFG gefördertes FEMtech Projekt „PRIMMING“, https://​projekte.​ffg.​at/​projekt/​3280774, https://​dynamic-pricing.​at/​ (letzte Zugriffe am 22.09.2020).
 
33
Von Netidee gefördertes Projekt „Preiswert“, https://​www.​netidee.​at/​preiswert (letzter Zugriff am 22.09.2020).
 
34
Aufdeckung von Preisdiskriminierung: AIT und ÖIAT verstärken Forschungskooperation, Horizont, 4.2.2020, https://​www.​horizont.​at/​digital/​news/​aufdeckung-von-preisdiskriminie​rung-ait-und-oeiat-verstaerken-forschungskooper​ation-73253 (letzter Zugriff am 22.09.2020).
 
35
Deepfake: Betrüger erleichterte Firma dank gefälschter Stimme um 220.000 €, DerStandard, 5.9.2019, https://​www.​derstandard.​at/​story/​2000108225039/​deepfake-betrueger-erleichterte-firma-dank-gefaelschter-stimme-um-220-000 (letzter Zugriff am 22.09.2020).
 
36
Pelosi videos manipulated to make her appear drunk are being shared on social media, Youtube, https://​www.​youtube.​com/​watch?​v=​sDOo5nDJwgA (letzter Zugriff am 22.09.2020).
 
Literatur
Zurück zum Zitat Aichernig BK, Ba P, Jöbstl E, Kann S, Korosec R, Krenn W, Mateis C, Schlick R, Schumi R (2019) Learning and statistical model checking of system response times. Softw Qual J 27(2):757–795 Aichernig BK, Ba P, Jöbstl E, Kann S, Korosec R, Krenn W, Mateis C, Schlick R, Schumi R (2019) Learning and statistical model checking of system response times. Softw Qual J 27(2):757–795
Zurück zum Zitat AIM (2018) Artificial Intelligence Mission Austria (AIM AT) 2030 – Die Zukunft der Künstlichen Intelligenz in Österreich gestalten. Bundesministerium für Verkehr, Innovation und Technologie (BMVIT) und Bundesministerium für Digitalisierung und Wirtschaftsstandort (BMDW), Wien. www.bmk.gv.at, www.bmdw.gv.at AIM (2018) Artificial Intelligence Mission Austria (AIM AT) 2030 – Die Zukunft der Künstlichen Intelligenz in Österreich gestalten. Bundesministerium für Verkehr, Innovation und Technologie (BMVIT) und Bundesministerium für Digitalisierung und Wirtschaftsstandort (BMDW), Wien. www.​bmk.​gv.​at, www.​bmdw.​gv.​at
Zurück zum Zitat Bartocci E, Deshmukh J, Gigler F, Mateis C, Ničkovic, D, Qin X (2020) Mining shape expressions from positive examples. International Conference on Embedded Software (EMSOFT), Hamburg, Germany, 20–25 September 2020 Bartocci E, Deshmukh J, Gigler F, Mateis C, Ničkovic, D, Qin X (2020) Mining shape expressions from positive examples. International Conference on Embedded Software (EMSOFT), Hamburg, Germany, 20–25 September 2020
Zurück zum Zitat Bartocci E, Ferrère T, Manjunath N, Ničković D (2018) Localizing faults in simulink/stateflow models with STL. In: Proceedings of the 21st International Conference on Hybrid Systems: Computation and Control HSCC '18, part of CPS Week, April 2018, S. 197–206, https://doi.org/10.1145/3178126.3178131 Bartocci E, Ferrère T, Manjunath N, Ničković D (2018) Localizing faults in simulink/stateflow models with STL. In: Proceedings of the 21st International Conference on Hybrid Systems: Computation and Control HSCC '18, part of CPS Week, April 2018, S. 197–206, https://​doi.​org/​10.​1145/​3178126.​3178131
Zurück zum Zitat Bartocci E, Manjunath N, Mariani L, Mateis C, Nickovic D (2019) Automatic failure explanation in CPS models. SEFM 2019:69–86 Bartocci E, Manjunath N, Mariani L, Mateis C, Nickovic D (2019) Automatic failure explanation in CPS models. SEFM 2019:69–86
Zurück zum Zitat Brundage M et al (2018) The malicious use of artificial intelligence: forecasting, prevention, and mitigation, future of humanity institute, University of Oxford. Centre for the Study of Existential Risk. University of Cambridge, Center for a New American Security, Electronic Frontier Foundation, OpenAI (February 2018) Brundage M et al (2018) The malicious use of artificial intelligence: forecasting, prevention, and mitigation, future of humanity institute, University of Oxford. Centre for the Study of Existential Risk. University of Cambridge, Center for a New American Security, Electronic Frontier Foundation, OpenAI (February 2018)
Zurück zum Zitat Eykholt K, Evtimov I, Fernandes E, Li B, Rahmati A, Xiao C, Prakash A, Kohno T, Song D. (2018) Robust physical-world attacks on deep learning visual classification. CVPR 2018 conference, 10. April 2018 Eykholt K, Evtimov I, Fernandes E, Li B, Rahmati A, Xiao C, Prakash A, Kohno T, Song D. (2018) Robust physical-world attacks on deep learning visual classification. CVPR 2018 conference, 10. April 2018
Zurück zum Zitat Fellner A, Krenn W, Schlick R, Tarrach T, Weissenbacher G (2019) Model-based, Mutation-driven Test-case Generation Via Heuristic-guided Branching Search. ACM Trans Embed Comput Syst 18(1):4:1–4:28 Fellner A, Krenn W, Schlick R, Tarrach T, Weissenbacher G (2019) Model-based, Mutation-driven Test-case Generation Via Heuristic-guided Branching Search. ACM Trans Embed Comput Syst 18(1):4:1–4:28
Zurück zum Zitat Ferrère Th, Nickovic D, Donzé A, Ito H, Kapinski J (2019) Interface-aware signal temporal logic. HSCC 2019:57–66 Ferrère Th, Nickovic D, Donzé A, Ito H, Kapinski J (2019) Interface-aware signal temporal logic. HSCC 2019:57–66
Zurück zum Zitat Friedman TL (2007) The world is flat: the globalized world in the twenty-first century: a brief history of the globalized world in the twenty-first century. Penguin publisher, 5.7.2007, ISBN 9780141034898 Friedman TL (2007) The world is flat: the globalized world in the twenty-first century: a brief history of the globalized world in the twenty-first century. Penguin publisher, 5.7.2007, ISBN 9780141034898
Zurück zum Zitat Jaksic S, Bartocci E, Grosu R, Nguyen T, Nickovic D (2018) Quantitative monitoring of STL with edit distance. Formal Methods Syst Des 53(1):83–112CrossRef Jaksic S, Bartocci E, Grosu R, Nguyen T, Nickovic D (2018) Quantitative monitoring of STL with edit distance. Formal Methods Syst Des 53(1):83–112CrossRef
Zurück zum Zitat Kurzweil, R. (2005) Singularity Is Near. VIKING, published by the Penguin Group, Erstausgabe 2005, ISBN 0–670–03384–7 Kurzweil, R. (2005) Singularity Is Near. VIKING, published by the Penguin Group, Erstausgabe 2005, ISBN 0–670–03384–7
Zurück zum Zitat Leitner, K.-H. (2003) Von der Idee zum Markt: die 50 besten Innovationen Österreichs. Böhlau, Wien S. 268 ff. Leitner, K.-H. (2003) Von der Idee zum Markt: die 50 besten Innovationen Österreichs. Böhlau, Wien S. 268 ff.
Zurück zum Zitat Leopold H (2017) Social communication for corporate innovation management. Lancaster University, School of Computing and Communications, Lancaster, UK, PhD Leopold H (2017) Social communication for corporate innovation management. Lancaster University, School of Computing and Communications, Lancaster, UK, PhD
Zurück zum Zitat Leopold H, Bleier T, Skopik F (2015) Cyber Attack Information System – Erfahrungen und Erkenntnisse aus der IKT-Sicherheitsforschung. Springer, Berlin. ISBN 978–3–662–44306–4 Leopold H, Bleier T, Skopik F (2015) Cyber Attack Information System – Erfahrungen und Erkenntnisse aus der IKT-Sicherheitsforschung. Springer, Berlin. ISBN 978–3–662–44306–4
Zurück zum Zitat Nickovic D, Lebeltel O, Maler O, Ferrère T, Ulus D (2018) AMT 2.0: qualitative and quantitative trace analysis with extended signal temporal logic. TACAS (2) 2018: 303–319 Nickovic D, Lebeltel O, Maler O, Ferrère T, Ulus D (2018) AMT 2.0: qualitative and quantitative trace analysis with extended signal temporal logic. TACAS (2) 2018: 303–319
Zurück zum Zitat Precht RD (2020) Künstliche Intelligenz und der Sinn des Lebens. Wilhelm Goldmann, München Precht RD (2020) Künstliche Intelligenz und der Sinn des Lebens. Wilhelm Goldmann, München
Zurück zum Zitat Ribeiro MT, Singh S, Guestrin C, (2016) “Why should i trust you?”: explaining the predictions of any classifier. ACM, KDD, (2016) San Francisco. CA, USA Ribeiro MT, Singh S, Guestrin C, (2016) “Why should i trust you?”: explaining the predictions of any classifier. ACM, KDD, (2016) San Francisco. CA, USA
Zurück zum Zitat Schindler A. (2018) AI and the need of a responsible and inclusive Innovation Policy. In: OVE Newsletter Social Media, „Beherrschen wir die künstliche Intelligenz“, November 2018 Schindler A. (2018) AI and the need of a responsible and inclusive Innovation Policy. In: OVE Newsletter Social Media, „Beherrschen wir die künstliche Intelligenz“, November 2018
Zurück zum Zitat Silver, N. (2012) The signal and the noise: why so many predictions fail – but some don't, Penguin Group, 27 September 2012 Silver, N. (2012) The signal and the noise: why so many predictions fail – but some don't, Penguin Group, 27 September 2012
Metadaten
Titel
Warum wir der künstlichen Intelligenz nicht blind vertrauen dürfen – fünf Ansätze um künstliche Intelligenz zu beherrschen
verfasst von
Helmut Leopold
Copyright-Jahr
2021
Verlag
Springer Berlin Heidelberg
DOI
https://doi.org/10.1007/978-3-662-63223-9_4

Premium Partner