Skip to main content
Fachgebiete
Automobil + Motoren Bauwesen + Immobilien Business IT + Informatik Elektrotechnik + Elektronik Energie + Nachhaltigkeit Finance + Banking Management + Führung Marketing + Vertrieb Maschinenbau + Werkstoffe Versicherung + Risiko
DE
EN
Themenseiten
Organisationspsychologie Projektmanagement Marketing Smart Manufacturing
Bücher
Zeitschriften
Weitere Formate
Podcasts Webinare Technik Webinare Wirtschaft Kongresse Veranstaltungskalender Awards
Jetzt Einzelzugang starten
Zugang für Unternehmen
Referenzkunden
MTZ-Fachkongress

Antriebe und Energiesysteme von morgen


Austausch von Automobil- und Energiewirtschaft

Am 14./15. Mai geht es in Chemnitz um die Mobilitätswende durch Elektro- und Wasserstofffahrzeuge.
Erweiterte Suche
Anmelden
nach oben
Erschienen in:
Künstliche Intelligenz: Chance oder Risiko für das Unternehmertum der Zukunft? Kapitel lesen Erstes Kapitel lesen

2023 | OriginalPaper | Buchkapitel

13. Verständliche Künstliche Intelligenz in Assistenzsystemen an Mensch-System-Schnittstellen

verfasst von : Oksana Arnold, Klaus P. Jantke

Erschienen in: Entrepreneurship der Zukunft

Verlag: Springer Fachmedien Wiesbaden

Einloggen

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Zusammenfassung

Jedes digitale System, das Menschen interaktiv unterstützt, sei es bei der Datenanalyse, bei der Erstellung von Diagnosen, bei der Steuerung von Prozessen, bei der Suche nach bisher nicht bekannten Lösungen, wobei auch immer, braucht Künstliche Intelligenz (KI). In der Praxis sind Daten im Allgemeinen unvollständig und dynamisch. Wenn die KI Interpretationen anbietet oder Vorschläge macht, dann sind alle diese Äußerungen der KI hypothetisch. Anders kann es nicht sein. Die KI lernt und wird immer besser – ein immer hilfreicherer Assistent. Menschen brauchen Transparenz der KI. Im Prozess der Interaktion müssen sie nachfragen, was die KI gemacht hat und warum. Oft genügt nicht eine einfache Antwort auf eine einfache Frage, denn sowohl das Lösen von Problemen als auch das Lernen der KI ist ein Prozess über der Zeit. Verständlichkeit der KI erfordert Erklärungsdialoge. Benötigt wird, was man im Englischen als Explainable Artificial Intelligence (XAI) bezeichnet. Erklärbare KI – kurz XAI – kann die Fragen beantworten, woher sie ihre Hypothesen holt, warum sie eine Hypothese behält oder warum sie eine Hypothese verwirft und wie sie zu einer aktuellen Hypothese gekommen ist. Jede lernende KI kann so konstruiert werden, dass sie ihr Verhalten gut erklärt. Im Gegensatz zur XAI gibt es KI-Ansätze, die in der Fachliteratur als Blackbox by Nature bezeichnet werden, ein Zustand, der überwunden werden muss. Der Schlüssel zu XAI, zu erklärbaren KI-Assistenten, ist Explainability by Design.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Jetzt informieren
Vorheriges Kapitel Datenbasierte Prozesse auf Baustellen
Nächstes Kapitel Nutzerpräferenzen für Markierungen digitaler Sprachassistenten – Eine wettbewerbsbasierte Diskussion
Fußnoten
1
Der Begriff der NP-Vollständigkeit soll hier kurz und weitestgehend informell umrissen werden. (Garey & Johnson 1979) ist eine Standardreferenz, als Originalquelle wird oft (Cook 1971) angegeben, obwohl Leonid Levin unabhängig dasselbe Problem formuliert hat (Levin 1973). Allerdings hat bereits 1956 Kurt Gödel diesen Problembereich mit John von Neumann diskutiert (Hartmanis 1989). Wir skizzieren, worum es geht. Algorithmische Probleme sind sehr oft von großer Komplexität, etwa das Finden des kürzesten Wegs zu allen Orten eines Netzes; man stelle sich einen Graphen vor mit Längenangaben an den Kanten. Beispielsweise hat Thüringen 127 Städte. Die Zahl der möglichen Rundreisen zum Besuch aller dieser Orte ist größer als die Zahl der Elementarteilchen, aus denen – nach heutigen Vorstellungen der Physik – unser Universum besteht. Wie kann man also effizient einen kürzesten Weg finden? Das weiß niemand. Einfach zu suchen ist, in Abhängigkeit von der Größe des Problems, hier also der Zahl der Knoten im Netz, von exponentiellem Aufwand. Das geht praktisch nicht. Man fasst alle Probleme dieser Art in einer Klasse zusammen, die man NP nennt. (Garey & Johnson 1979) beschreiben etwa 200 Probleme in NP. Dem stellt man eine Klasse von Problemen gegenüber, die P genannt wird. Für Probleme in P kennt man Algorithmen von nur polynomiellem Aufwand in Abhängigkeit von der Größe der Problemstellung. Sind die Probleme von NP vielleicht doch alle in P? Dann gäbe es bessere Lösungsmethoden als die, die man heute kennt. Die Fragestellung heißt P-NP-Problem. Könnte man sie mit ja beantworten, würde das die gesamte Praxis der Informatik revolutionieren, aber unter anderem auch dadurch, dass einige der heutigen Verschlüsselungsverfahren leicht zu brechen wären. Lautet die Antwort also nein? Man weiß es nicht. In der Klasse NP gibt es eine Teilklasse der schwierigsten Probleme. Diese nennt man NP-vollständig. Würde es gelingen, nur für ein einziges dieser Probleme eine Lösung von polynomiellem Aufwand anzugeben, dann könnte man das auf alle Probleme in NP übertragen.
 
Literatur
Adadi, A., & Berrada, M. (2018). Peeking inside the black-box: A survey on Explainable Artificial Intelligence (XAI). IEEE Access, 6, 52138–52160.
Angluin, D. (1980a). Finding patterns common to a set of strings. Journal of Computer and System Sciences, 21, 46–62.
Angluin, D. (1980b). Inductive inference of formal languages from positive data. Information and Control, 45, 117–135.
Angluin, D., & Smith, C. H. (1983). Inductive inference: Theory and methods. ACM Computing Surveys, 15(3), 237–269.
Arnold, O., Drefahl, S., Fujima J., & Jantke, K. P. (2017). Dynamic identification by numeration for co-operative knowledge discovery. IADIS Intl. J. Computer Science and Information Systems, 12(2), 65–85
Arnold, O., & Jantke, K. P. (2018). Mining HCI data for theory of mind induction. In C. Thomas (Hrsg.), Data mining (S. 47–68). InTech Open.
Arnold, O., Golchert, S., Rennert, M., & Jantke, K. P. (2022). Interactive collaborative learning with explainable artificial intelligence. In Pre-Procedings of the 25th International Conference on Interactive Collaborative Learning, September 27–29, 2022, Hilton Park Vienna, Austria (S. 108–119).
Arrieta, A. B., Diaz-Rodriguez, N., Del Ser, J., Bennetot, A., Tabik, S., Barbado, A., Garcia, S., Gil-Lopez, S., Molina, D., Benjamins, R., Chatila, R., & Herrera, F. (2020). Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information Fusion, 58, 82–115.
Baader, F., Calvanese, D., Mcguinness, D. L., Nardi, D., & Patel-Schneider, P. F. (Hrsg.). (2002). The description logic handbook: Theory, implementation, and applications. Cambridge University Press.
Blum, M. (1976). A machine-independent theory of the complexity of recursive functions. Journal of the ACM, 14(2), 322–336.
Brown, D., & Hammer, D. E. (2013). Conceptual change in physics. In S. Vosniadou (Hrsg.), International handbook of research on conceptual change (S. 121–137). Routledge.
Call, J., & Tomasello, M. (2008). Does the chimpanzee have a theory of mind? 30 years later. Trends in Cognitive Sciences, 12(5), 187–192.
Carruthers, P., & Smith, P. K. (1996). Theories of mind. Cambridge University Press.
Clocksin, W. F., & Mellish, C. S. (1987). Programming in prolog. Springer.
Colombo, M., & Knauff, M. (2020). Editors’ review and introduction: Levels of explanation in cognitive science: From molecules to culture. Topics in Cognitive Science, 12, 1224–1240.
Cook, S. A. (1971). The complexity of theorem-proving procedures. Proc. 3rd Annual ACM Symposium on Theory of Computing (STOC), (S. 151–158). New York, USA: ACM.
DARPA. (2016). Broad Agency Announcement: Explainable Artificial Intelligence (XAI). DARPA-BAA-16–53. Arlington, VA, USA: Defense Advanced Research Projects Agency.
Du, M., Liu, N., & Hu, X. (2020). Techniques for interpretable machine learning. Communications of the ACM, 63(1), 68–77.
D’Ulizia, A., Ferri, F., & Grifoni, P. (2011). A survey of grammatical inference methods for natural language learning. Artificial Intelligence Review, 36, 1–27.
Emery, N. J., & Clayton, N. S. (2009). Comparative social cognition. Annual Review of Psychology, 60, 87–113.
Fayyad, U., Piatetsky-Shapiro, G., & Smyth, P. (1996). The KDD process for extracting useful knowledge from volumes of data. Communications of the ACM, 39, 27–34.
Fujima, J., Arnold, O., Jantke, K. P., & Schmidt, B. (2017). Interaction Semantics vs. Interaction Syntax in data visualization and exploration. Design, implementation and utilization of meme media. In V. Rus & Z. Markov (Hrsg.), Proc. 30th Intl. Florida Artificial Intelligence Research Society Conference, Marco Island, FL, USA, May 22–24, 2017 (S. 231–234). AAAI Press.
Garey, D. S., & Johnson, M. (1979). Computers and intractability: A guide to the theory of NP-Completeness. Freeman.
Gold, E. M. (1967). Language identification in the limit. Information and Control, 10, 447–474.
Grochow, J. M. (2020). A taxonomy of automated assistants. Communications of the ACM, 63(4), 39–41.
Gutierrez, C., & Sequeda, J. F. (2021). Knowledge graphs. Communications of the ACM, 63(4), 96–104.
Hamdorf, E., & Graf, D. (2011). Fehlvorstellungen zu Diffusion und Osmose. Der mathematische und naturwissenschaftliche Unterricht, 64(5), 298–303.
Hartmanis, J. (1976). On effective speed-up and long proofs of trivial theorems in formal theories. Revue Française d’Automatique Informatique Recherche Opérationnelle. Informatique Théorique, 10, 29–38.
Hartmanis, J. (1989). The structural complexity column: Gödel, von Neumann and the P=?NP problem. Bulletin of the EATCS, 38, 101–106.
Heyting, A. (1930). Die formalen Regeln der intuitionistischen Logik. Sitzungsberichte der Preußischen Akademie der Wissenschaften, Physikalisch-mathematische Klasse, 42–56(57–71), 158–169.
Hilbing, C., & Barke, H.-D. (2004). Ionen und Ionenbindung: Fehlvorstellungen hausgemacht! Ergebnisse empirischer Erhebungen und unterrichtliche Konsequenzen. Chemkon, 11(3), 115–120.
Hofstadter, D. R. (1979). Gödel, Escher, Bach – ein Endloses, geflochtenes Band. Klett-Cotta.
Inoue, K., Ribeiro, T., & Sakama, C. (2014). Learning from interpretation transition. Machine Learning, 94(1), 51–79.
Jäger, G., & Rogers, J. (2012). Formal language theory: Refining the Chomsky hierarchy. Philosophical Transactions of the Royal Society B., 367, 1957–1970.
Jain, S., Osherson, D., Royer, J. S., & Sharma, A. (1999). Systems that learn. Cambridge University Press.
Jankun-Kelly, T. J., Ma, K.-L., & Gertz, M. (2007). A Model and framework for visualization exploration. IEEE Transactions on Visualization and Computer Graphics, 13(2), 357–369.
Jantke, K. P. (2016). Theory of mind modeling and induction: Touch & feel. Technical Report. ADISY Tech Rep 01/2016, ADISY Consulting.
Jantke, K. P. (2018). Mobile learning – Vom Werkzeug zum Assistenten. In C. de Witt & C. Gloerfeld (Hrsg.), Handbuch Mobile Learning (S. 185–218). Springer.
Jantke, K. P. (2021a). The key to high level computerized symbolic learning is knowledge representation and emerging terminology. Technical Report. ADICOM Tech Rep 01/2021, ADICOM Software.
Jantke, K. P. (2021b). Explainable Artificial Intelligence (XAI): Explainability by design, invited keynote speech. World Industrial Design Conference (WIDC), 2021, Yantai, China. http://​www.​gdio.​org/​news/​173.​html. Zugegriffen: 14. Nov. 2021.
Jantke, K. P., & Fujima, J. (2016). Analysis, visualization and exploration scenarios: Formal methods for systematic meta studies of big data applications. In E. Grant, D. Kotzinos, D. Laurent, N. Spyratos, & Y. Tanaka (Hrsg.), Information search, integration, and Personalization. 10th International Workshop, ISIP 2015, Grand Forks, ND, USA, October 1–2, 2015, Revised Selected Papers (S. 107–127). CCIS, Bd. 622, Springer.
Jantke, K. P., Grieser, G., & Lange, S. (2003). Adaptivität – Vom Werkzeug zum Assistenten: Risiken der Autonomie. In R. Grimm (Hrsg.), Proc. E-Learning: Beherrschbarkeit und Sicherheit, 1./2. Juli 2003, Ilmenau (S. 25–41). Institut für Medien- und Kommunikationswissenschaft.
Jantke, K. P., Schmidt, B. & Schnappauf, R. (2016). Next generation learner modeling by theory of mind model induction. In Proc. 8th Intl. Conf. Computer Supported Education, CSEDU 2016, Rome, Italy, April 21–23, 2016, Vol. 1 (S. 499–506). Setúbal, Portugal: ScitePress.
Kaschek, R. H. (Hrsg.). (2007). Intelligent assistant systems: Concepts, techniques and technologies. Idea Group Publ.
Keil, F. C. (2006). Explanation and understanding. Annual Review of Psychology, 57, 227–254.
Keil, F. C. (2008). Getting to the truth: Grounding incomplete knowledge. Brooklyn Law Review, 73(1), 1035–1052.
Kolmogoroff, A. N. (1932). Zur Deutung der intuitionistischen Logik. Mathematische Zeitschrift, 35, 58–65.
Kraus, T., Ganschow, L., Eisenträger, M., & Wischmann, S. (2021). Erklärbare KI: Anforderungen, Anwendungsfälle und Lösungen. Institut für Innovation und Technik in der VDI/VDE Innovation + Technik GmbH.
Krull, D. S., & Anderson, C. A. (1997). The process of explanation. Current Directions in Psychological Science, 6(1), 1–5.
Lally, A., Prager, J., McCord, M., Boguraev, B., Padwardhan, S., Fan, J., Fodor, P., & Chu-Carroll, J. (2012). Question analysis: How Watson reads a clue. IBM Journal of Research and Development, 56(3), 250–263.
Lane, H., Howard, C., & Hapke, H. M. (2019). Natural language processing in action: Understanding, analyzing, and generating text with Python. Manning Publ.
Lange, S., & Wiehagen, R. (1991). Polynomial-time inference of arbitrary pattern languages. New Generation Computing, 8, 361–370.
Lee, L. (1996). Learning of context-free languages: A survey of the literature. Harvard University, TR-12–96.
Levin, L. (1973). Universal sorting problems. Problems of Information Transmission, 9, 265–266.
Lindström, P. (1969). On extensions of elementary logic. The Journal of Symbolic Logic, 35, 1–11.
Lombrozo, T. (2011). The instrumental value of explanations. Philosophy Compass, 6(8), 539–551.
Lombrozo, T. (2012). Explanation and abductive inference. In K. J. Holyoak & R. G. Morrison (Hrsg.), The oxford handbook of thinking and reasoning. Oxford University Press.
Lombrozo, T, Sloman, S, Strevens, M, Trout, J. D., & Weisberg, D. S. (2008). Understanding why: The cognitive science of explanation. Proceedings of the Annual Meeting of the Cognitive Science Society, 30, https://​escholarship.​org/​uc/​item/​1tg3m6zb. Zugegriffen: 31. Aug. 2021.
O’Neil, D., Gerst, S., & Prom, S. (2014). Business insights: How to find and effectively communicate golden nuggets in retail data. Delta Publishing Group, Inc.
Ortega, A., Fierrez, J., & Morales, A, et al. (2021). Symbolic AI for XAI: Evaluating LFIT inductive programming for fair and explainable automatic recruitment. 2021 IEEE Winter Conference on Applications of Computer Vision Workshop, Waikola, HI, USA (S. 78–87).
Pine, K., Messer, D. & St. John, K. (2013). In S. Vosniadou (Hrsg.), International Handbook of Research on Conceptual Change (S. 121–137). Routledge.
Popper, K. R. (1934). Logik der Forschung. Tübingen.
Popper, K. R. (1963). Conjectures and refutations. Basic Books.
Ribeiro, T. (2015). Studies on learning dynamics of systems from state transitions. Doctoral Thesis. Tokyo, Japan: National Institute of Informatics, Department of Informatics, School of Multidisciplinary Sciences, The Graduate University for Advanced Studies.
Ribeiro, T., & Inoue, K. (2015). Learning prime implicant conditions from interpretation transition. In J. Davis & J. Ramon (Hrsg.), Inductive logic programming: 24th International Conference, ILP 2014, Nancy, France, September 14–16, 2014, Revised Selected Papers (S. 108–125). Lecture Notes in Computer Science 9046, Springer.
Ribeiro, T., Inoue, K., & Sakama, C. (2015). A BDD-based algorithm for learning from interpretation transition. In J. Davis & J. Ramon (Hrsg.), Inductive Logic Programming: 24th International Conference, ILP 2014, Nancy, France, September 14–16, 2014, Revised Selected Papers (S. 47–63). Lecture Notes in Computer Science 9046, Springer.
Richter, M. M. (1978). Logikkalküle. Teubner.
Rogers, H. (1967). Theory of recursive functions and effective Computability. McGraw-Hill.
Schmidt, B. (2014). Theory of mind player modeling. Bachelor Thesis. FH Erfurt, Angewandte Informatik.
Schmidt, B. (2017). Theory of mind modeling and induction: Eine praktische Anwendung. Master Thesis. FH Erfurt, Angewandte Informatik.
Schubert, C. (2013). Zauberlehrling und Meister: Digital Humanities zwischen Informatik und Geisteswissenschaften? In J. Kobes, K. Ruffing, & W. Spickermann (Hrsg.), 20 Jahre Arbeitsgemeinschaft Geschichte und EDV (S. 167–186). Computus Druck Satz & Verlag.
Strube, G. (Hrsg.). (1996). Wörterbuch der Kognitionswissenschaft. Klett-Cotta.
Tjoa, E., & Guan, C. (2020). A survey on Explainable Artificial Intelligence (XAI): Toward medical XAI. IEEE Transactions on Neural Networks and Learning Systems.
Van Beek, D. (2021) Data science for decision makers & data professionals: Creating an intelligent data-driven organization with AI, BI & Big Data. The Netherlands: Passioned Group.
Van Harmelen, F., Lifschitz, V., & Porter, B. (2008). Handbook of knowledge representation. Elsevier.
Veluswamy, R. (2008). Golden nuggets: Clinical quality data mining in acute care. The Physician Executive, 34(3), 48–53.
Vosniadou, S. (Hrsg.). (2013). International handbook of research on conceptual change. Educational Psychology Handbook Series, Routledge.
Wahlster, W. (2020). Mehr vom Menschen lernen. Frankfurter Allgemeine Zeitung, 9(9), 2020.
Wilson, R. A., & Keil, F. C. (1998). The shadows and shallows of explanation. Minds and Machines, 8, 137–159.
Wilhelm, T., & Hopf, M. (2018). Schülervorstellungen zum elektrischen Stromkreis. In H. Schecker, T. Wilhelm, M. Hopf, & R. Duit (Hrsg.), Schülervorstellungen und Physikunterricht (S. 115–138). Springer.
Wirth, R., & Hipp, J. (2000). CRISP-DM. Toward a standard process model for data mining. In Proc. 4th Intl. Conf. Practical Applications of Knowledge Discovery and Data Mining, 11th-13th April 2000, Manchester, U.K. (S. 29–39).
Wittgenstein, L. (1922). Tractatus logico-philosophicus. Kegan Paul, Trench, Trubner & Co.
Zhang, D., & Zhou, L. (2004). Discovering golden nuggets: Data mining in financial application. IEEE Transactions on Systems, Man and Cybernetics, Part C: Applications and Reviews, 34(4), 513–522.
Metadaten
Titel
Verständliche Künstliche Intelligenz in Assistenzsystemen an Mensch-System-Schnittstellen
verfasst von
Oksana Arnold
Klaus P. Jantke
Copyright-Jahr
2023
Buch
Entrepreneurship der Zukunft

Print ISBN: 978-3-658-42059-8

Electronic ISBN: 978-3-658-42060-4

Copyright-Jahr: 2023

DOI
https://doi.org/10.1007/978-3-658-42060-4_13

Premium Partner

    Bildnachweise