KI für das Gute

Es werden grundlegende ethische Konzepte vorgestellt, die einen direkten Einfluss auf Entscheidungen im realen Leben haben. Leider gibt es nicht nur einen Weg, richtig zu handeln. Es werden insbesondere zwei grundlegend unterschiedliche Ansätze diskutiert: Deontologische („halte dich an die Prinzipien“) und utilitaristische („das Endergebnis zählt“) Konzepte. Es wird gezeigt, dass die Ethik für eine Gesellschaft charakteristisch ist und sich im Laufe der Zeit verändert. Das Problem der Übereinstimmung zwischen der Moral des Einzelnen und der Wahrnehmung der Gesellschaft wird ebenfalls erörtert. Ethische Dilemmata werden anhand einiger klassischer Beispiele wie dem „Trolley-Problem“, dem „Gefangenendilemma“ oder dem „Collingridge-Dilemma“ illustriert und in einen KI-Kontext übertragen. Anhand verschiedener Beispiele wie der COVID-19-Pandemiekrise 2020 oder Datenschutzinitiativen (in Europa die General Data Protection Regulation („GDPR“), in Kalifornien der California Consumer Protection Act („CCPA“)) und den damit verbundenen ethischen Fragen wird die Bedeutung unterschiedlicher ethischer Perspektiven bei der Entscheidungsfindung für Menschen und KI-gestützte Systeme aufgezeigt.

Wie treffen Menschen Entscheidungen, was sind die treibenden Kräfte, und was sind ihre ethischen und moralischen Störungen? Das Erklärungsmuster der menschlichen Rationalität unterliegt anderen Störungen als die der KI. Das Konzept der menschlichen Rationalität, ihre Bedeutung für die Modellierung und als Argumentationsgrundlage werden vorgestellt. Ihre Unzulänglichkeiten werden anhand eines konkreten wirtschaftlichen Beispiels aufgezeigt. Es wird gezeigt, dass wirtschaftlich irrationale Entscheidungen weit verbreitet sind. Anhand konkreter Beispiele aus COVID-19 werden eine Reihe von kognitiven Verzerrungen herausgearbeitet und erklärt, die durch statistische Fehlinterpretationen verursacht werden. Die signifikante Tendenz des Menschen, „ein wenig zu schummeln“, wird anhand des „Fudge-Factors“ (Schummel-Faktor) erläutert, der von Dan Ariely erforscht wurde. Insbesondere im Zusammenhang mit der weiteren Verbreitung von KI-Technologien wird gezeigt, wie dieses unmoralische Problem zunimmt. Als weiteres Beispiel wird eine Initiative, die vordergründig ethisch-moralisch lobenswert erscheint – die Bewegung zu inklusiven Perspektiven in der Investmentbranche – vor dem Hintergrund begrenzter moralischer Verantwortung analysiert. Es werden Konzepte vorgestellt, die Moral in sinnvoller Weise durch die Übernahme von Mitverantwortung zu fördern.

Ausgehend von den allgemeinen ethischen Ansätzen und den Rationalitätsaspekten, die in den vorangegangenen Kapiteln erörtert wurden, werden in diesem Kapitel die spezifischen ethischen Herausforderungen der verschiedenen Interessen- und Einflussgruppen von Unternehmen näher beleuchtet. Insbesondere – und das ist der Ausgangspunkt – spielen die Verbraucher eine dominante Rolle in der Unternehmensethik, auch wenn sie nur indirekt (aber letztlich) Einfluss darauf haben, welche und wie Waren und Dienstleistungen produziert, angeboten und konsumiert werden. Die Ethik der Produzenten leitet sich langfristig von der Nachfrage der Verbraucher ab und muss vier verschiedene Dimensionen widerspiegeln, die hier behandelt werden. Die ethische Verantwortung der Arbeitsplatzinhaber (einschließlich der Arbeitnehmer, aber nicht nur dieser Gruppe) wird anhand einiger Beispiele mit besonderem Schwerpunkt erläutert, z. B. stellen die Besonderheiten des Leiharbeitsverhältnisses ein ethisches Risiko in Bezug auf die Ausbeutung der Sozialversicherungssysteme dar. Mit Blick auf die ethischen Aspekte, auf die man als Investor achten sollte, wird gezeigt, wie das gestiegene Bewusstsein, „über die wirtschaftliche Leistung hinauszuschauen“, zu einer Vielzahl von Initiativen geführt hat, die versuchen, den „Mehrwert“ eines Unternehmenswertes über die Bilanz hinaus zu erfassen. Obwohl diese so genannten „Impact Investments“, die ESG-Aspekte der Unternehmensleistung über die reinen Wirtschaftsergebnisse hinaus einbeziehen, als Folge des Klimawandels zunehmende Aufmerksamkeit erfahren, werden auch ihre wichtigsten Mängel aufgezeigt.

Internationale Geschäfte machen die Entscheidungsfindung noch komplexer, da Aspekte aus dem Heimat- und dem Gastland berücksichtigt werden müssen. Wie in der heutigen globalisierten Welt der grenzüberschreitenden Lieferketten und Wertströme müssen auch die ethischen Aspekte berücksichtigt werden. Dieses Kapitel befasst sich mit den grundlegenden ethischen Standards im internationalen Geschäft und veranschaulicht die verschiedenen gesellschaftlichen Perspektiven. Die „Tragödie der Allmende“ („Tragedy of the Commons“) wird insbesondere in einem internationalen Kontext aufgezeigt, in dem Verantwortung nur selten auf einer breiteren Ebene wahrgenommen wird (Regenwaldrodung, Überfischung) und eine systematische Verantwortung ignoriert wird, was zu globalen Auswirkungen führt, wie dies bei SARS-CoV-2 und der folgenden COVID-19-Pandemiekrise zu beobachten war. Das ethische Dilemma wird erklärt und seine treibenden Faktoren werden analysiert. Als Leitfaden für ethisches Verhalten wird ein ethischer Kompass vorgeschlagen, der klare Leitplanken für das Management in einem internationalen Kontext bietet. Anhand eines Beispiels wird gezeigt, wie KI die ethische Entscheidungsfindung unterstützen kann.

Digitalisierung führt zu der Strukturform der Netzwerkgesellschaft. Entwicklungstreiber ist der mediale Überschusssinn der Digitalisierung in Verbindung mit künstlicher Intelligenz. Mit Spiral Dynamics wird die Entwicklung zu einem integralen und holistischen Bewusstseins- und Wertesystem dargestellt. Ein ganzheitliches Führungskonzept für eine zukunftsfähige Unternehmensführung ist durch eine werteorientierte Unternehmensführung basierend auf einer integralen Philosophie möglich. Durch eine differenztheoretische Abgrenzung von Intelligenztypen kann eine integrale Intelligenz bestimmt und die Bedeutung von kollektiver und intuitiver Intelligenz aufgezeigt werden. Anwendungen von Software-Algorithmen in betriebswirtschaftlichen Entscheidungssituationen zeigen Mensch-Maschine-Interaktionen im integralen Sinne und Perspektiven einer integralen Intelligenz. Konkret können Verfahren, wie der analytische Hierarchieprozesse (AHP) und künstliche neuronale Netze (ANN) eingesetzt werden. Darüber hinaus wird ein Anwendungsbeispiel für Ko-Kreativität durch kollektive Intelligenz und Intuition gegeben.

„Digitalisierung“, das Schlagwort der 2010er-Jahre, kennzeichnet zusammen mit „Disruption“ einen grundlegenden Wandel für Individuen und Gesellschaften. In diesem Kapitel wird zunächst ein wenig Zuversicht aufgebaut, indem die aktuelle digitale Transformation in einen historischen Kontext gestellt wird. Es werden Beispiele diskutiert, die das Potenzial und die Risiken von KI-basierten Anwendungen aufzeigen. Offensichtlich ist die Disruption nicht neu, und aus der Vergangenheit können wichtige Lehren gezogen werden. Das „digitale Trio“ (Robot Process Automation, Blockchain und Quanten-/Supercomputing), d. h. digitale Technologien, die die KI umgeben und zu ihr beitragen, wird für Nicht-Ingenieure erklärt und die Leistungsfähigkeit kritisch reflektiert. Anhand der öffentlich zugänglichen KI-Plattform Kaggle wird die Abhängigkeit der Ergebnisse von den beiden wichtigsten Zutaten für KI – Daten und Algorithmen – veranschaulicht. Die Leserinnen und Leser können die Berechnungsergebnisse sofort selbst nachprüfen (ohne jegliche Software-Kenntnisse): Auf der Grundlage eines Testdatensatzes werden verschiedene KI-Algorithmen in einem Frühwarnsystem eingesetzt. Es wird gezeigt, dass schon geringe Variationen in der Parametrisierung zu deutlich unterschiedlichen Ergebnissen führen. Dies deutet natürlich auf ein zentrales Problem von KI-Anwendungen hin, das ebenfalls in Teil III behandelt wird, da ein falscher Abgleich von Daten und Algorithmen das Potenzial hat, letztlich zu verzerrten Entscheidungen und damit zu Diskriminierung führt.

Die Welt der KI hat sich mit exponentiellem Tempo entwickelt. Obwohl das Potenzial der KI allgemein bekannt ist, gibt es seit einigen Jahren ein klares Duopol, das die KI-Agenda vorantreibt. Die verwendeten Technologien, die daraus abgeleiteten Anwendungen und die Auswirkungen auf das Leben des Einzelnen und der Gesellschaft werden durch die Gegenüberstellung der beiden Supermächte USA und China in ihrer Herangehensweise an die Herrschaft im digitalen Zeitalter veranschaulicht. Trotz der ethischen Konsequenzen der beiden sehr unterschiedlichen Bestrebungen, der USA mit dem sogenannten Überwachungskapitalismus und Chinas mit dem sogenannten Markt-Leninismus, gibt es massive Auswirkungen nicht nur auf das gesellschaftliche Leben, sondern auch auf den Ressourcenverbrauch, der einen exponentiellen Anstieg des Energiebedarfs (und damit realistischerweise auch des CO₂-Ausstoßes) sowie der Kosten nach sich zieht.

In diesem Kapitel werden die ethischen Auswirkungen von KI auf den Einzelnen und die Gesellschaft analysiert. Zunächst werden die grundlegenden Zusammenhänge erörtert, die die Automatisierung im Allgemeinen und die KI im Besonderen auf den Umfang und die Art der menschlichen Arbeit haben. Es liegt auf der Hand, dass die ethische Herausforderung der KI-Technologie immens ist und vor allem an den Grundpfeilern der offenen Gesellschaft kratzt. Die KI-Supermächte USA und China werden unter ethischen Gesichtspunkten diskutiert, indem die Ansätze in diesen Ländern in einen entsprechenden Rahmen gestellt werden.

In China wird der Aufbau eines totalen Überwachungsstaates mit Hilfe von KI-Technologie in einen historischen und gesellschaftlichen Kontext gestellt, da dies notwendig ist, um (von außen) die vergleichsweise hohe Akzeptanz des Master-Überwachungsprogramms „Sharp Eyes“ in der Bevölkerung zu verstehen.

Obwohl in den USA die Motivation, Verbraucher bis hin zu sehr privaten Dimensionen der Persönlichkeit zu durchleuchten, eine ganz andere ist, sind die ethischen Fragen bei diesem Geschäftsmodell nicht weniger wichtig. Erste Schritte zum Datenschutz werden erläutert.

Die Finanzbranche ist ein wichtiger Akteur und Motor der Weltwirtschaft. Zusammen mit dem Klimawandel stellt die KI einen Paradigmenwechsel in der unternehmerischen Entscheidungsfindung dar, so auch in der Finanzbranche. Die extremen Positionen – Apathie auf der einen und Hysterie auf der anderen Seite – werden veranschaulicht und als Nicht-Optionen deklassiert. Der anzustrebende „Sweet Spot“ wird durch die Betrachtung des aktuellen Stands der Finanzdienstleistungen herausgearbeitet. Die Chancen, die sich aus der digitalen Transformation ergeben, werden ebenso erläutert wie die Herausforderungen, die sich aus den Anforderungen an neue Fähigkeiten, veränderte Rollen und ein kulturelles Umdenken ergeben. Anhand konkreter Beispiele werden Defizite bei einseitigen KI-Anwendungen aufgezeigt, die auf fehlerhafte Daten, die Verantwortung und Beteiligung einer sehr kleinen Gruppe von Programmierern und das Problem undurchsichtiger Algorithmen zurückzuführen sind. Ihre ethischen Konsequenzen, insbesondere die Diskriminierung, werden erläutert. Der „Sweet Spot“ zwischen Apathie und Hysterie, den die De-Biasing-Ansätze vorsehen, wird erläutert und ein Appell für einen tugendhaften Umgang mit KI entwickelt.

Dieses Kapitel – ein Fall aus der Praxis – erzählt die Geschichte des Geschäftsführers eines mittelständischen Industrieunternehmens, der die Vorteile von KI zunächst nicht sieht. Er wird von dem KI-Evangelisten Florian Schild, Mitbegründer des Bundesverbands für Künstliche Intelligenz und Mitbegründer von boot.AI, herausgefordert. Der Geschäftsführer lernt nicht nur in einer Teststellung, dass man auch mit minimalen Daten (es muss nicht immer nur Big Data sein) die Effizienz durch den Einsatz von KI-Technologie steigern kann, er trifft auch eine harte Entscheidung, indem er überflüssige Mitarbeiter NICHT entlässt … Es werden neue Optionen für ethische Geschäftsentscheidungen aufgezeigt, die sich aus der KI-Technologie ergeben. Dazu werden die gesellschaftlichen Implikationen der Technologie in einem historischen Kontext reflektiert. Mit einem induktiven Ansatz wird gezeigt, wie bei der Anwendung von KI-Technologien ethisch vertretbare Lösungen gefunden werden können, die nicht-technische Grenzen respektieren. Es ist notwendig, sich mit den Folgen der (KI-basierten) Automatisierung für die Gesellschaft auseinanderzusetzen, da immer mehr Menschen dazu neigen, kognitive Berufe zu ergreifen, die auf einer akademischen Ausbildung basieren.

Künstliche Intelligenz (KI) ist DAS Zukunftsthema für Unternehmen. Während Unternehmensbereiche wie Marketing, Controlling oder Logistik bereits wie selbstverständlich Gebrauch von KI-Anwendungen machen, hinkt das Personalmanagement oftmals hinterher. Vor diesem Hintergrund exploriert der vorliegende Beitrag die Potenziale von KI im Personalmanagement. Auf der Grundlage der Task-Technology-Fit-Theorie wird zunächst ein konzeptioneller Bezugsrahmen zur Erfolgswirksamkeit von personalbezogenen KI-Anwendungen entwickelt, anschließend werden elf Task-Technology-Kombinationen entlang der Personalmanagementsysteme skizziert. Basierend auf einem Theorie-Praxis-Abgleich zum Status Quo in 118 deutschen Unternehmen erfolgt unter Berücksichtigung des Technology-Acceptance-Modells die Ableitung förderlicher Rahmenbedingungen zum KI-basierten Personalmanagement. Hierbei stehen datenschutzrechtliche Fragestellungen (DSGVO) und ethische Tugenden (Corporate Ethic Virtues Model) im Fokus. Inhaltlich abgerundet wird der Beitrag durch die Entwicklung eines Kompetenzprofils für Personalmanager im KI-Zeitalter. Der Beitrag schließt mit einem Ausblick für zukünftige Forschung und leitet wissenschaftliche Implikationen ab.

Die Umsetzung von Ethik in der Wirtschaft ist keine Besonderheit, die nur mit KI einhergeht. Allerdings sind die Auswirkungen in einem KI-Umfeld viel weitreichender als je zuvor. Aufgrund ihres disruptiven Charakters wirkt sich KI auf die Wohlstandsprognosen ganzer Gesellschaften aus, bis hin zu den Lebenshaltungskosten jedes Einzelnen; auch auf die Umwelt hat sie massive Auswirkungen. Es werden wichtige Initiativen in der EU und den USA für eine ethische KI vorgestellt, wie geltende Gesetze (z. B. GDPR und CCPA zum Datenschutz) und Ideen wie das RoboLaw zur Automatisierung oder die elektronische Person (e-person). Postulate verschiedener Kommissionen werden zusammengefasst und ausgewählte Organisationen, die sich für ethische KI einsetzen, werden vorgestellt.

Mit dem „Haus der ethischen KI“ wird ein Rahmen für die Sicherung ethischer KI vorgeschlagen. Seine Schlüsselelemente, die sich auf Vertrauen, Aufklärung und Verantwortlichkeit konzentrieren, werden diskutiert und mit verschiedenen Beispielen illustriert. Schließlich wird ein Umsetzungsfahrplan für ethische KI vorgeschlagen.