Künstliche Intelligenz (KI) wird zukünftig die Unternehmensführung durchdringen und auch den Kern autonomer Unternehmen bilden. Das Verständnis der Unternehmensleitung für KI-getriebene Strategieentscheidungen ist eingeschränkt, denn KI ist selten dafür konzipiert, Entscheidungen zu erklären. Ist ein Veto der Unternehmensleitung überhaupt möglich, wenn sie doch an KI-Entscheidungen gebunden ist? Corporate Digital Responsibility (CDR) zielt auf einen Handlungs- und Entscheidungsrahmen, der das Spannungsfeld zwischen Optimierung, Compliance und Integrität ausbalanciert.
Zusammenfassung
Künstliche Intelligenz wird gleichzeitig über- und unterbewertet. Einigkeit besteht darin, dass KI immer mehr Unternehmensfunktionen durchdringen wird.
Wenn KI-Systeme zukünftig auch in der Unternehmensführung oder in autonomen Unternehmen zum Einsatz kommen, entstehen ganz neue Herausforderungen.
Die damit einhergehende Unternehmensverantwortung wird erst nach und nach greifbar.
Anzeige
Kernthesen
KI-Entscheidungen lassen sich von Menschen nicht immer nachvollziehen, trotzdem werden Menschen teilweise in der Umsetzungspflicht stehen.
Auswirkungen werden sich in Haftungs‑/Rechenschaftsfragen zeigen, in eingeschränktem Unternehmertum sowie in der Veränderung von Unternehmenskultur und Führungsstil.
Unternehmen bzw. Shareholder werden autonome algorithmische Entitäten ausgründen, um den Menschen als limitierenden Faktor aus dem Spiel zu nehmen.
Handlungsempfehlungen
Bisherige Gesetze und Leitlinien bieten für die Herausforderungen der KI-Unternehmensführung keinen Orientierungsrahmen.
Unternehmen können aber mit Ausgestaltung eines CDR-Katalogs selbst Verantwortung für die spezifische Situation ihres KI-Einsatzes übernehmen.
Dabei liegt die zentrale Herausforderung in der Ausbildung und Verankerung von Integrität.
Seit Neuerem schreiben Menschen Computerprogramme und Algorithmen in einer Art, dass diese selbstständig lernend in der Lage sind, eigene Regeln aufzustellen und selbst Entscheidungen zu fällen. Diese Regeln werden nicht vom Menschen kodifiziert, sondern von der IT-Anwendung erlernt. Die IT-Anwendung entscheidet sich also nicht notwendigerweise in einer für den Menschen vorhersehbaren Art und Weise.
Blicken wir ein wenig in die Zukunft: An einem warmen Herbsttag steht ein Lieferant völlig unerwartet mit dem Zehnfachen der sonst üblichen Bestellmenge von Sensoren vor der Tür eines fiktiven technischen Geräteherstellers. Der Mann im Wareneingang ruft verwundert seine Chefin an und diese den Zulieferer. Alle rätseln, warum diese übertrieben hohe Menge geliefert wurde. Aber: Die IT-Anwendung hat rechtsgültig beim Lieferanten bestellt und dieser nimmt die Sensoren nicht zurück.
Anzeige
Es bleibt völlig unklar, warum diese hohe Menge bestellt wurde, bis drei Wochen später im monatlichen Purchase Council des Unternehmens vor weltweit auftretenden Lieferengpässen bei Sensoren und den damit verbundenen Preiserhöhungen gewarnt wird. Im Nachgang zeigt sich, dass am Tag vor der Bestellung mehrere Analysten Warnungen vor weltweit auftretenden Lieferengpässen bei Sensoren ausgesprochen hatten. Weitere Analysen zeigen ergänzende Faktoren auf, die die Entscheidung der IT-Anwendung beeinflussten: Das Demand Forecasting zeigte, dass sich die Nachfrage nach Produkten, in denen der Sensor verbaut wird, stark erhöht. Gleichzeitig ist der Krankenstand im Unternehmen unerwartet niedrig, sodass mehr Menschen als sonst um diese Jahreszeit in der Produktion verfügbar sind. Eine gute Stimmung, und damit Produktivität, unter der Belegschaft lässt sich auch aufgrund der von der IT-Anwendung ausgewerteten LinkedIn-Einträge und -Vernetzungen der Mitarbeiter sowie deren Beiträge in ihren öffentlich zugänglichen Instagram-Profilen vermuten. Wie auch immer. Am Ende hat das IT-System die optimale Menge bestellt, auch wenn dies anfangs nicht klar war. Alle sind sich einig: Schwein gehabt.
Was wäre passiert, wenn die Einkaufschefin frühzeitig Wind von der ihr unerklärlich großen Bestellung bekommen hätte? Sie hätte die Entscheidung der IT-Anwendung nicht nachvollziehen können und die Bestellung daraufhin manuell auf ein normales Maß reduziert. Das Unternehmen verliert daraufhin Millionen. Gerade als Mitglied des Managementteams hat sie aber die Pflicht, alle ihr zur Verfügung stehenden Informationen zu nutzen, um optimale Entscheidungen zu treffen. Der Aufsichtsrat des Unternehmens weist daraufhin den Vorstand an, die Einkaufschefin persönlich für die Preiserhöhungen in Haftung zu nehmen.
Zukünftig wird sich die Einkaufschefin aus der Verantwortungslinie nehmen. Sie hat gelernt: Die IT-Anwendung ist eine Autorität, deren Entscheidungen, seien sie noch so unverständlich, sie sich beugen muss.
Möglicherweise treffen IT-Anwendungen in manchen Situationen bessere Entscheidungen als Menschen. Möglicherweise aber auch schlechtere und diskriminierende. Je intelligenter die IT-Anwendungen werden, desto schwieriger fällt es Menschen, ihre Entscheidungen zu verstehen. Die IT-Anwendungen sind nicht dafür konzipiert, ihre Entscheidungen zu erklären. Sind die Menschen dennoch an Entscheidungen gebunden, die sie nicht verstehen?
Wie werden sich Unternehmen technisch, organisatorisch und dadurch auch kulturell verändern? Welche Auswirkungen gibt es auf Mitarbeiter, Führung, Agilität und Effizienz? Was muss passieren, damit sich die digitale Entwicklung verantwortungsvoll vollzieht? Wie lässt sich das Spannungsfeld zwischen Optimierung, Compliance und Integrität in der Balance halten?
KI-Ausprägungen
Je nach Grad der Autonomie von KI-Systemen lassen sich drei verschiedene Stufen unterschieden, mit denen Fragen der Haftung und Rechenschaft eng verbunden sind [1, 2]:
1.
Assistierend: Menschen sind die Entscheider. KI-Systeme unterstützen bei Aufgaben, die ein Mensch auch selbst erbringen könnte (z. B. Übersetzung). Vereinfacht wird hier auch vom Human-in-the-loop-Ansatz gesprochen.
2.
Erweitert (augmented, amplified): Menschen sind die Entscheider oder mit Vetorechten ausgestattete Beobachter. Das KI-System bereitet komplexe Entscheidungen vor und führt Aufgaben durch, die vom Menschen schwer vorgenommen werden können (z. B. Vorhersagemodelle auf Basis großer Datenmengen). Das Ergebnis der maschinellen Entscheidungsfindung ist für den Menschen nicht immer nachvollziehbar. Menschen müssen sich ggf. auf die maschinelle Entscheidung verlassen, sodass dann von einer gemeinsamen Entscheidungsfindung gesprochen werden kann. Damit wird der menschzentrierte Governance-Ansatz in Unternehmen infrage gestellt. Diese Stufe kommt dem Human-on-the-loop-Ansatz nahe: Entscheidungen werden vom Menschen überwacht.
Intelligente, autonome KI-Systeme setzen dort an, wo Menschen an ihre naturgegebenen Grenzen stoßen, und brechen mit ihrer tatsächlichen – aber zumindest zugeschriebenen – Überlegenheit etablierte Machtstrukturen in Unternehmen auf. Bei einer Übertragung von Macht und Verantwortung auf KI-Systeme als Blackbox mit undurchsichtiger Funktionsweise ist zwangsläufig die Balance zwischen extrinsischer Regeltreue (Compliance) und intrinsischer Selbststeuerung (Integrität) gefährdet [3, 4]. Naturgemäß stehen auf Algorithmen beruhende KI-Systeme den Compliance-Ansätzen deutlich näher und gefährden über Anreize und Sanktionen individuelle Autonomie, Freiheitsgrade und Integrität, die bei menschlicher Führung zwar nicht garantiert, aber doch wahrscheinlicher sind [3, 4]. Es droht eine Rückkehr zu autoritären Führungspraktiken in neuem Gewand [5].
KI-Abdeckung
Während bisherige IT-Anwendungen (z. B. ERP-Systeme) als „totale Idioten“ [6] einfach nicht clever genug waren, aus massenhaft und immer schneller anfallenden, verschiedenartigen, sich ändernden und unzuverlässigen Daten zu lernen und das Gelernte in sinnvolle Entscheidungen zu überführen, gelingt dies KI-Anwendungen nun immer besser. KI-Anwendungen können in bisher von IT wenig unterstützten Bereichen Anwendung finden (z. B. strategische Planung), vorhandene IT-Anwendungen übergreifend steuern und so sukzessive immer weitere Unternehmensprozesse und -entscheidungsbereiche abdecken (s. Abb. 1).
Abb. 1
Abdeckung KI im Unternehmen (Projizierung auf Prozesshaus). CRM Customer Relationship Management, SCM Supply Chain Management, PLM Product Lifecycle Management, HR Human Resource, QM Quality Management
1.
AI-supports-the-organization: KI unterstützt einzelne Funktionen in Support- und Kernprozessen (wie z. B. Einkauf, Produktion) und deckt einzelne Kern- und Stützprozesse ab.
2.
AI-runs-the-organization: Perspektivisch wird KI stärker in Managementprozesse bzw. Unternehmensführung (z. B. strategische Planung) integriert und zunehmend mit weiteren Entscheidungsrechten ausgestattet. Im Extremfall könnten KI-Systeme Teile der Unternehmensführung übernehmen [2].
3.
AI-covers-the-organization: Evolutionäre Ausbreitung der KI bis zur Abbildung vieler/aller Unternehmensprozesse auf allen Ebenen (Management‑, Kern- und Stützprozessen). Menschen sind hier im Wesentlichen für Entscheidung, Erstellung und Parametrisierung von Zielen, Strategien und Algorithmen zuständig, aber nicht mehr dominierend für den operativen Ablauf, Entscheidungsfindung oder -umsetzung. Menschen wirken entweder an den Zielen, Strategien und Algorithmen mit oder werden Erfüllungsgehilfen, z. B. wenn Maschinen nicht zulässig sind.
4.
AI-as-the-organization: Letztendlich ist die Frage, inwiefern sich neue Geschäftsmodelle entwickeln, die gänzlich ohne menschliches Zutun auskommen. Dabei sind diejenigen Unternehmen im Vorteil, die sich nicht evolutionär in Richtung eines solchen Ansatzes transformieren, sondern als „Algorithmic Entities“ [7] bereits nativ („von Geburt an“) als solche angelegt sind.
×
CDR bei KI-Einsatz
Der Einsatz von KI in Unternehmen kann deren Fähigkeiten wie Entscheidungsgeschwindigkeit, Effizienz, Analyse (z. B. Märkte, Kunden, Technologie), aber auch Kreativität positiv beeinflussen und damit Wettbewerbsvorteile in vielen Bereichen (z. B. Innovation, Reputation oder Kostenstruktur) aufbauen. Zudem beeinflusst KI schon heute die Entwicklung neuer Geschäftsmodelle zahlreicher Branchen [8, 9]. Gleichzeitig ergeben sich rechtliche, ethische und unternehmerische Risiken (Beispiele) [10]:
Mangelhafte Entscheidungen (z. B. durch implizite, für die KI aber unverständliche Ziele)
Diskriminierung/Bias (z. B. durch Trainingsdaten, die aus der Vergangenheit stammen oder nur Ausschnitte abbilden)1
Unklare Haftung und Rechenschaft (z. B. durch singulär unproblematisches – in Gemeinschaft aber risikobehaftetes Wirken2 oder unklare Rechenschaft bei mit externen Anwendungen vernetzten KI-Systemen)
Negativer Einfluss auf Unternehmenskultur, Mitarbeitermotivation und Integrität (z. B. durch angeordnetes Befolgen nicht nachvollziehbarer Entscheidungen)
Entstehung einer neuen Art der Unternehmensführung als „Superuser“, mit „ultimativer“ Entscheidungsbefugnis – über alle KI-Entscheidungen
Negativer Einfluss auf Menschen und Umwelt (z. B. durch KI-Entscheidungen mit direkter Auswirkung auf die berufliche, aber auch private und familiärere Situation von Mitarbeitern)
Die Regulierung von Risiken im Unternehmenskontext ist über staatliches Recht allein nicht sicherzustellen, da multinationale Unternehmen, wie auch z. B. zur Steuervermeidung, in andere Länder ausweichen können und dazu möglicherweise sogar gegenüber ihren Shareholdern verpflichtet sind. KI-freundliche Gesetze in nationalen Rechtsordnungen können zu einem neuen Regulierungswettbewerb nach unten führen [11]. So könnten native KI-Unternehmen (AI-as-the-organization) die Arbitrage des regulatorisch optimierten Nomadisierens zum Teil des Geschäftsmodells werden lassen. Eine Regulierung auf nationaler Ebene oder auch im Staatenverbund wird daher zur Einhaltung ethischer Standards nicht genügen: Es ergibt sich die Forderung nach Übernahme unmittelbarer unternehmerischer Verantwortung für die Folgen digitalen Handelns.
Die Wahrnehmung einer freiwilligen, über das gesetzlich Vorgeschriebene hinausgehenden, unternehmerischen Verantwortung für die Folgen der Entwicklung, Verbreitung oder Nutzung digitaler Technologien auf die Gesellschaft insgesamt, aber auch die konkrete einzelne Person, wird unter dem Begriff Corporate Digital Responsibility (CDR) diskutiert [12, 13].
Corporate Digital Responsibility kodifiziert Vertrauen und schafft einen Handlungs- und Entscheidungsrahmen, der zeigt, wie KI-Risiken und -Chancen auszubalancieren sind, um der sozialen Verantwortung von Unternehmen hinsichtlich digitaler Fragestellungen gerecht zu werden. In einer wohldurchdachten CDR steckt das Potenzial zur Differenzierung und Schaffung von Wettbewerbsvorteilen durch Erlangung von Vertrauen der Stakeholder gegenüber dem Unternehmen.
KI in der Unternehmensführung bestehender Unternehmen
Entscheidungen der Unternehmensführung sind gekennzeichnet von hoher Unsicherheit, Volatilität, Komplexität und Wirkung. Aus diesem Blickwinkel betrachtet, bietet die Unternehmensführung ein vielversprechendes Einsatzgebiet für KI-Systeme.
Die Wahrheit ist, dass das Geschäft zu komplex geworden ist und sich zu schnell bewegt, als dass Vorstände und CEOs ohne intelligente Systeme gute Entscheidungen treffen könnten [14].
KI-Technologien können Prozesse der strategischen Entscheidungsfindung mit dem Ziel, bessere Entscheidungen zu ermöglichen, unterstützen (z. B. Prognosen, Auswertungen großer Datenmengen). Hier liegen Interpretation und Entscheidungen in den Händen der Menschen, die durch diese KI-Systeme unterstützt werden [15]. Bereits heute ist eine Tendenz zum Automated Enterprise [7] bzw. Algorithmic Business [9] zu beobachten, in denen KI-Systeme eigenständig Entscheidungen ableiten [15].
Die traditionelle Frage in der strategischen Planung „Wo wollen wir in einem Jahr sein – und wie kommen wir da hin?“ ändert sich in eine andauernde Suche nach denjenigen Maßnahmen, die (unter Beachtung verfügbarer Ressourcen) zur bestbewerteten Stellung führen. Die jährlichen „Zielbilder“ werden abgelöst von einer kontinuierlichen Stellungsbewertung „Zug um Zug“.
Der Einsatz von KI in der Unternehmensführung lässt zahlreiche Auswirkungen erwarten:
1.
Strategische KI-Entscheidungen haben massive, komplexe und unmittelbare Auswirkungen auf Menschen, die direkt (z. B. Mitarbeiter und Familien) oder indirekt (z. B. Zulieferer, Servicekräfte) betroffen sind.
2.
Entscheidungen, von einer als objektiv, neutral und überlegen angesehenen KI-Entscheidungsarchitektur getroffen, haben starke Legitimationsfunktion für Management und Eigentümer. Ähnlich wie bisher vielleicht Unternehmensberatungen (mutmaßlich neutrale und objektive Instanz) als Sündenbock unangenehmer Entscheidungen herangezogen werden, wird KI diese Rolle mit noch mehr Gewicht ausfüllen.
3.
Die Beziehung von Eigentümer und Management (Prinzipal-Agent) verändert sich: Während Manager bisher gerade wegen ihrer besonderen Fähigkeit, Entscheidungen auf Basis ihrer persönlichen Erfahrungen auch „aus dem Bauch heraus“ zu treffen, ausgesucht werden und die Nachvollziehbarkeit von Managemententscheidungen für Eigentümer nicht immer gegeben ist, können Eigentümer und Dritte (z. B. interner/externer Audit, Insolvenzverwalter) nun sehr einfach verfolgen, bei welchen Entscheidungen sich das Management nicht an KI-Empfehlungen hielt. Bei einer Abweichung wird das Management seine Entscheidungen deutlich stärker als bisher erklären müssen. KI-Entscheidungen nicht oder anders umzusetzen, führt möglicherweise zu rechtlichen Konsequenzen: So gilt in Deutschland seit 1997 die sog. Business Judgement Rule (§ 93 Abs. 1 Satz 2 AktG), die besagt, dass Vorstände nur dann nicht für negative Folgen unternehmerischer Entscheidungen haften, wenn die Entscheidung u. a. auf Grundlage angemessener Informationen getroffen wurde. Vorstände müssen dies im Zweifel beweisen (§ 93 Abs. 2 Satz 2 AktG). Können Sie dies nicht (z. B. im Falle einer nicht absolut nachvollziehbar begründeten Abweichung von der KI-Entscheidung), sind sie dem Unternehmen zum Ersatz des entstandenen Schadens aus ihrem Privatvermögen verpflichtet.
4.
Diese neuartige Beziehung zwischen Eigentümern und Management sowie das zumindest teilweise intransparente Zustandekommen von Entscheidungen wandeln Führungspraktiken, Rolle und Kompetenzanforderung des Topmanagements vom modernen, partizipativen, risikonehmenden Unternehmensführer und Entscheider zum reinstitutionalisiert-autoritären, risikoaversen Umsetzer und Controller.
5.
Das Gefühl von Maschinen regiert zu werden, wirkt sich auf Unternehmenskultur, Mitarbeitermotivation und Integrität aus: Während in der Ära der Mechanisierung Maschinen einfache, repetitive Arbeiten für Menschen ausführen, und in der Zeit der Automatisierung Maschinen einfache Arbeiten selbstständig erledigen, führen nun Menschen Arbeiten für Maschinen aus. In KI geprägten Unternehmen wird insgesamt ein Ungleichgewicht zugunsten von Compliance und zulasten von Integrität entstehen.
6.
Weiterhin sind viele weitere wichtige Risiken (etwa Diskriminierung oder Haftungsfragen) zu berücksichtigen.
Ähnliches wie bei der Einführung und massenhaften Verbreitung von Standard-ERP-Systemen, die zu einer Angleichung von Prozessen über Unternehmen und Branchen hinweg und damit zur Reduktion der Differenzierungsmöglichkeit über besondere Unternehmensprozesse führte, ist nun im Bereich Strategie zu erwarten: Der zukünftige Einsatz von Standard-KI-Systemen (zu Standard-KI-Systemen z. B. [16, 17]) in der Unternehmensführung (wie z. B. KI-Systeme zur Marktanalyse) führt zur Annäherung strategischer Entscheidungen über die Unternehmen einer Branche hinweg. Differenzierungspotenziale über Elemente der Unternehmensstrategie zur Erlangung von Wettbewerbsvorteilen (z. B. Innovationen, Image/Positionierung) werden reduziert und damit Effizienz- und Größenvorteile noch stärker als bisher betont. Gleichzeitig werden die Nachteile großer Unternehmen, der „schwerfälligen Tanker“ – gegenüber kleineren, vermeintlich flexibleren Organisationen, durch agile Strategie verringert. So verschiebt sich der Wettbewerb um die beste Strategie zum Wettbewerb um die Implementierung der besten Algorithmen, Datenbasis und KI-Systeme.
Voraussetzung für die Ausschöpfung der Wettbewerbsvorteile ist, dass die Unternehmenskultur dem neuen, agilen Effizienzgedanken folgt und Menschen im Unternehmen die Entscheidungen eher ausführen als hinterfragen. Die wirtschaftlich erfolgreichsten Unternehmen werden versuchen, sich von den Limitationen menschzentrierter Arbeitsweisen und -zeiten zu befreien, und den Menschen weitestgehend aus dem Spiel nehmen. Denkbar ist z. B. die Ausgründung rein digitaler, algorithmischer, autonomer Ein-Zweck-KI-Unternehmen, die von den Zwängen menschlicher Bedürfnisse und einiger ethischer Beschränkungen befreit, KI-Potenziale optimal ausschöpfen.
Unternehmensführung in nativen KI-Unternehmen
Eine bereits heute existierende nativ digitale Organisationsform ist die sog. Decentralized Autonomous Organization (DAO). Diese Form wurde ursprünglich mit einem anderen Zweck erschaffen, weist aber Merkmale auf, die für autonom am Geschäftsverkehr teilnehmende KI-Unternehmen Voraussetzung sind.
Decentralized Autonomous Organizations werden dezentral und unmittelbar durch die Eigentümer verwaltet. Eigentumsanteile an DAOs, die gleichzeitig Stimmrechte beinhalten können, lassen sich mit Kryptowährungen erwerben. Die DAOs basieren häufig auf dem Technologiekonzept der Ethereum-Blockchain. Über diese Blockchain werden, auf Basis vordefinierter Bedingungen (z. B. Eigentümerentscheidungen), automatisch Handlungen vorgenommen, die in sog. Smart Contracts kodifiziert sind: Das operative Handeln der DAOs wird Programmen überlassen.
Decentralized Autonomous Organizations sind keine „KI-Unternehmen“, sondern heute im Wesentlichen Kooperations- und Abstimmungsmaschinen, bei denen die Eigentümer bestimmen können, welche und wie Smart Contracts ausgeübt werden (z. B. für Finanzierung, Crowdfunding, Wetten). Die Eigentümer können auf strukturierte Art und Weise und ohne Notwendigkeit vertrauenswürdiger Dritter (z. B. Plattformen, Banken, Versicherungen, Notaren) über die Verwendung von Ressourcen (z. B. Geld) entscheiden. Eine juristische Anmeldung oder ein physischer Ort, an dem die Organisation beheimatet ist, sind i. d. R. nicht vorgesehen.
Aufgrund des beschriebenen Charakters der DAOs ist eine Übertragbarkeit des DAO-Gedankens auf klassische Unternehmensgeschäftsmodelle nicht ohne Weiteres möglich. Denkbar ist z. B. die Zusammenarbeit von Individuen oder Organisationen in einer DAO, um eine existierende, zentralisierte Machtbündelung (z. B. Plattform3 oder dominantes Unternehmen in einer Kooperationsbeziehung4) aufzubrechen. Beim „Emerging Legal Technology Forum 2021“ des Thomson-Reuters-Institute wurde prognostiziert, dass eine DAO in wenigen Jahren ein großes Sportteam besitzen wird: Die Mitglieder könnten gemeinsam investieren und abstimmen, welche Spieler z. B. das „New-York-Giants-Profi-Football-Team“ erwirbt, wer spielen darf oder auf der Bank sitzt.
Als Vorteile von DAOs werden gesehen: unmittelbare Vertrauenswürdigkeit durch Dezentralität und Transparenz ohne Notwendigkeit vertrauenswürdiger Dritter, gemeinschaftliche Entscheidung der Eigentümer, Ausschluss der Prinzipal-Agent-Problematik, garantiertes Handeln auf Basis zuvor gemeinsam festgelegter Regeln (Smart Contracts) unter Ausschluss subjektiver Einflüsse und Machtkonstellationen und Pseudonymisierung der Handelnden. Die Organisation unterliegt zumeist keiner Rechtsform, Gesetzgebung und Regulierung.
Auf der anderen Seite lassen sich Risiken identifizieren, die im Wesentlichen im Zusammenhang mit dem unklaren rechtlichen Status der Organisationen stehen: Allen voran das Risiko der gemeinschaftlichen Haftung: Jeder einzelne DAO-Eigentümer müsste für die Gesamtschulden einstehen – auch mit seinem Privatvermögen. Erst seit Juli 2021 können im US-Bundesstaat Wyoming DAOs unter gewissen Voraussetzungen als LLC (ähnlich der deutschen GmbH) angemeldet werden.5 Dies stärkt die Rechtsstellung und vermindert die persönliche Haftung. Eine LLC könnte einer DAO als eine Art legaler Verpackung dienen.
Auch wenn die heute existierenden DAOs keine Blaupause für nativ digitale KI-Unternehmen sind, bieten sie doch Merkmale und Voraussetzungen, die für den Aufbau digitaler algorithmisch-autonomer KI-Entitäten prägend sein können: Dazu gehört z. B. der Einsatz von Smart Contracts oder die vertrauenswürdige, von Zentralen und Plattformen unabhängige dezentrale Steuerungsfähigkeit durch die Eigentümer.
Im Folgenden soll also von einer wie auch immer gearteten Parallel- oder Weiterentwicklung von DAOs in Richtung von am Geschäftsverkehr teilnehmenden nativ digitalen, dezentralen, autonomen KI-Organisationen (DAKIOs) ausgegangen werden (s. oben: AI-as-the-organization).
Stellt man sich klassisch-hierarchische Unternehmen schematisch in drei Ebenen aufgeteilt vor:
1.
Eigentümer mit konstitutiven Entscheidungsrechten (Aktionäre, Gesellschafter),
2.
Management mit strategischen und taktischen Entscheidungsrechten (Vorstand, Geschäftsführung) und
3.
Operatives Handeln,
sind dezentrale, autonome KI-Organisationen (DAKIOs) in drei verschiedenen Varianten, mit zunehmenden Entscheidungsrechten auf der Seite von Maschinen, vorstellbar (s. Abb. 2).
Abb. 2
Allokation von Entscheidungsrechten verschiedener DAKIO-Varianten. M Mensch, SC Smart Contract, DAO Decentralized Autonomous Organization, DAKIO Dezentrale, autonome KI-Organisation
×
Var. A: DAO
Eigentümer mit konstitutiven, strategischen und taktischen Entscheidungsrechten (Menschen)
Operatives Handeln (Smart Contracts)
Var. B: DAKIO
Eigentümer mit konstitutiven Entscheidungsrechten (Menschen),
Management mit strategischen und taktischen Entscheidungsrechten (KI) und
Operatives Handeln (Smart Contracts). Eine DAKIO ist, einmal etabliert, eine menschenleere Organisation, die in der Lage ist, sich selbst zu erhalten, zu verwalten und zu wachsen.
Var. C: DAKIO-gegründetes DAKIO
Ähnlich Variante B., allerdings gegründet von einer anderen DAKIO, die diese Gründung in ihren Smart Contracts vorsieht.
Menschen geben im Laufe dieser Variantenbildung immer mehr Entscheidungsrechte an Maschinen ab.
Fazit
Künstliche Intelligenz ist schon heute für Unternehmen unverzichtbar und wird in absehbarer Zeit auch die Unternehmensführung durchdringen. Wie bereits ERP-Systeme, werden auch KI-Systeme zum Standard werden. Wenn KI-Standard-Systeme in der strategischen Planung zum Einsatz kommen, ist zu erwarten, dass sich die strategischen Entscheidungen von Unternehmen annähern.
Unternehmen werden in dieser Situation Wettbewerbsvorteile erringen, wenn die Unternehmensorganisation und -kultur zur neuen Entscheidungsarchitektur passt: Befreiung von menschzentrierten KI-Limitationen und ausgeprägte Umsetzungseffizienz. Menschliches Eingreifen wird als wenig sinnvoll erachtet, wenn Effizienz im Vordergrund steht, und ist nur noch im Ausnahmefall vorgesehen. Für Manager wird technisches Know-how und Umsetzungskompetenz wichtiger als langjährige und fundierte Branchenerfahrung. Unternehmen werden „algorithmische Entitäten“ ausgründen, die, mit maximaler Autonomie ausgestattet, den Menschen als limitierenden Faktor aus dem Spiel nehmen.
Die verantwortlichen Personen in Unternehmen sind gefordert, auf Basis ihrer eigenen spezifischen Situation, kontinuierlich rechtliche und ethische Fragestellungen zu reflektieren und entsprechende Fähigkeiten zu entwickeln. Dabei kann das Instrument der „Corporate Digital Responsibility“ (CDR) einen Rahmen für die Entwicklung eigener Verantwortungskomponenten bieten. Die zentrale Herausforderung liegt in der Ausbildung und Verankerung von Integrität über die gesamte Kette: vom Design des KI-Systems, über Entwicklung, Verbreitung, Implementierung, Anwendung und Betrieb bis zur Pflege.
Open Access Dieser Artikel wird unter der Creative Commons Namensnennung 4.0 International Lizenz veröffentlicht, welche die Nutzung, Vervielfältigung, Bearbeitung, Verbreitung und Wiedergabe in jeglichem Medium und Format erlaubt, sofern Sie den/die ursprünglichen Autor(en) und die Quelle ordnungsgemäß nennen, einen Link zur Creative Commons Lizenz beifügen und angeben, ob Änderungen vorgenommen wurden.
Die in diesem Artikel enthaltenen Bilder und sonstiges Drittmaterial unterliegen ebenfalls der genannten Creative Commons Lizenz, sofern sich aus der Abbildungslegende nichts anderes ergibt. Sofern das betreffende Material nicht unter der genannten Creative Commons Lizenz steht und die betreffende Handlung nicht nach gesetzlichen Vorschriften erlaubt ist, ist für die oben aufgeführten Weiterverwendungen des Materials die Einwilligung des jeweiligen Rechteinhabers einzuholen.
WI – WIRTSCHAFTSINFORMATIK – ist das Kommunikations-, Präsentations- und Diskussionsforum für alle Wirtschaftsinformatiker im deutschsprachigen Raum. Über 30 Herausgeber garantieren das hohe redaktionelle Niveau und den praktischen Nutzen für den Leser.
BISE (Business & Information Systems Engineering) is an international scholarly and double-blind peer-reviewed journal that publishes scientific research on the effective and efficient design and utilization of information systems by individuals, groups, enterprises, and society for the improvement of social welfare.
Texte auf dem Stand der wissenschaftlichen Forschung, für Praktiker verständlich aufbereitet. Diese Idee ist die Basis von „Wirtschaftsinformatik & Management“ kurz WuM. So soll der Wissenstransfer von Universität zu Unternehmen gefördert werden.
Beispiele: (1) Medikamente wirken und Spracherkennung funktioniert bei Männern besser als bei Frauen. Grund: zu wenig Trainingsdaten von Frauen (2) Männer werden eher für Führungspositionen ausgewählt. Grund: weniger Frauen auf Führungspositionen in der Vergangenheit (3) Gesichtserkennung arbeitet bei weißen Menschen besser als bei schwarzen. Grund: zu wenig Trainingsdaten von schwarzen Menschen.
Beispielsweise könnten Auftraggeber, Entwickler, Händler und Nutzer von Algorithmen und Trainingsdaten jeweils plausibel erklären, dass ihr Zutun allein unkritisch ist. Nur in Summe entsteht das Risiko. Ebenso ist die Problematik einer Anbindung externer KI-Systeme mit unzureichender XAI zu sehen.
In einigen Nicht-OECD-Ländern ist dies schon länger möglich: Cayman Islands, Panama, Seychellen. Eine dortige Gründung birgt allerdings andere Risiken.
