Der Ansatz, Massendaten („Big Data“) mit den heutigen mächtigen, nach wie vor exponentiell wachsenden Computerkapazitäten und dazu passenden Methoden zu erfassen, zu speichern, zu durchforsten, zu kombinieren und auszuwerten, hat auch für die Künstliche Intelligenz (KI) neue Impulse und Möglichkeiten geschaffen. Diese rücken einerseits alte KI-Träume näher in den Bereich des Realen, können aber andererseits ein großes zerstörerisches Potenzial entfalten. Damit gehen neue Bedrohungen einher, unter anderem für die Datenintegrität, Persönlichkeitsrechte und Privatheit, für die Unabhängigkeit von Wissen und Information sowie für den gesellschaftlichen Zusammenhalt. Neue Medien wie Facebook oder Twitter, übermächtige IT-Konzerne wie Google oder Amazon sowie die fortschreitende Digitalisierung alltäglicher Vorgänge und Gegenstände („Internet der Dinge“) spielen dabei eine entscheidende Mittlerrolle.
Immer wieder verkündete Visionen von der „technischen Singularität“, d. h. der möglichen Machtübernahme der Maschinen über die Menschen werfen Fragen nach dem Primat der Politik über Wirtschaft und Technik und dem Bestand und der Überlebensfähigkeit der Demokratie, wenn nicht sogar der Menschheit, auf.
Hinweise
Dieser Artikel ist ein geringfügig revidierter Abdruck eines Buchbeitrags aus dem Band:
Wiegerling K, Nerurkar M, Wadephul Ch (Hrsg) (2020) Datafizierung und Big Data. Ethische, anthropologische und wissenschaftstheoretische Perspektiven. Springer, Wiesbaden, S 213–228
Big Data – ein neuer Hype oder mehr?
Im Dezember 2016 hat die Schweizer Zeitschrift Das Magazin über die Methode des Psychologen Michael Kosinski berichtet, aus den gesammelten Datenmengen großer Gruppen von Facebook-Nutzern persönliche Psychogramme zu erstellen und mit deren Hilfe gezielte, auf kleinste Wählergruppen zugeschnittene Wahlwerbung zu betreiben [9]. Im Frühjahr 2018 hat diese Nachricht endlich den Weg in die große Medienwelt gefunden. Ob die genannten Methoden für die Wahl von Donald Trump zum US-Präsidenten den Ausschlag gegeben haben, ist umstritten, doch sind die Möglichkeiten, allein aus den (freiwillig geäußerten) „Likes“ ahnungsloser Social-Media-Nutzer passgenaue Personalprofile zu erstellen und für kommerzielle oder politische Zwecke einzusetzen, gelinde gesagt: beeindruckend.
Das ist nur eine von unzähligen Anwendungen von Big Data, einem nicht neuen, aber seit einiger Zeit sehr populären Ansatz in der Informationstechnik (IT) zur Lösung komplexer und oft nicht einmal exakt definierter Fragen. Der Erfolg dieses Ansatzes beruht im Wesentlichen auf dem ungeheuren Zuwachs an Rechengeschwindigkeit und Speicherkapazität der Computer-Hardware in den letzten Jahrzehnten.
Anzeige
Schon seit einigen Jahren geistert „Big Data“ als neuer Modebegriff durch die IT-Gazetten. Er steht eigentlich – ganz simpel – für Massendaten und damit keineswegs für ein neues Phänomen. Allerdings haben sich mit den erweiterten IT-Anwendungen – unter anderem durch die digitale Fotografie und die Verarbeitung bewegter Bilder – die Datenmengen in gigantischem Ausmaß vergrößert. So gilt seit über 50 Jahren das sogenannte Moore’sche Gesetz, nach dem sich die Rechenleistung (Geschwindigkeit, Speicherdichte) der Computer ca. alle 18–20 Monate regelmäßig verdoppelt. Das bedeutet, dass sich heute auf gleichem Raum ca. 230 (entsprechend über einer Milliarde) mal mehr Daten speichern lassen als 1965, als Gordon Moore dieses Gesetz erstmals formulierte.
Aber nicht nur die Speicherdichte, sondern vor allem auch die Verarbeitungsgeschwindigkeit ließ sich in ähnlichem Maße steigern. Das bedeutet u. a., dass riesige Datenbestände in kürzester Zeit durchforstet, sortiert, re-kombiniert oder gefiltert werden können. So gibt es die modernen superschnellen Suchmaschinen oder sogenannte Agentensysteme, bei denen eine Unzahl programmierter virtueller Roboter (sogenannte bots – kurz von: robots) das Internet durchpflügen, um ihnen zugewiesene Aufgaben wie z. B. eine detaillierte Reiseplanung mit Flügen, Unterkünften, Mahlzeiten, Ausflügen etc. durchzuführen. Der Erfolg solcher Anwendungen, wie sie heute jedes Smartphone in handtellergroßer Dimension anbietet, wäre ohne diese Miniaturisierung und Superbeschleunigung undenkbar.
Insofern stellt „Big Data“ nicht nur ein neues Schlagwort, sondern auch einen so ungeheuren Quantitätszuwachs dar, dass man zu Recht auch von einer neuen Qualität bei der Speicherung und Verarbeitung von Daten sprechen kann.
Künstliche Intelligenz – ein etabliertes Gebiet mit neuen Impulsen
Von dieser neuen Qualität hat in jüngerer Zeit das schon lange etablierte (und zuweilen schon totgesagte) Gebiet der Künstlichen Intelligenz profitiert. Bereits in den 1950er-Jahren hatte der amerikanische Logiker John McCarthy den Begriff Artificial Intelligence als Namen für ein Forschungsprojekts aus der Taufe gehoben, dessen Ziel es sein sollte, menschliche Denk- und Entscheidungsvorgänge zu automatisieren.
Anzeige
Die wechselvolle Geschichte der KI ist reich an Erfolgen, aber auch an Rückschlägen. So geriet z. B. der zunächst naheliegende Ansatz, KI-Algorithmen auf der Grundlage des logischen Schließens zu entwerfen, in den 1990er-Jahren in eine gewisse Sackgasse. Dagegen konnte der Ansatz, über neuronale Netze (einer Simulation der menschlichen Gehirnstrukturen) und maschinelles Lernen menschliche Erkennungs‑, Koordinations- und Denkleistungen zu simulieren, beachtliche Erfolge erringen, die u. a. 2016 in dem sensationellen Sieg des Computerprogramms AlphaGo über den koreanischen Go-Meister Lee Sedol gipfelte.
Die jüngere KI bezieht ihre Stärken nicht zuletzt aus den Erkenntnissen bei der Behandlung von Big Data, wo Ansätze wie Rasterfahndung und Mustererkennung eine größere Rolle spielen als das klassische Schließen nach logischen Regeln und Kalkülen. So führt z. B. bei Brettspielen wie Schach oder Go der Vergleich mit riesigen Mengen gespeicherter Stellungsmuster wesentlich weiter als das Analysieren einzelner möglicher Spielzüge und -varianten.
Über die KI und ihr Verhältnis zur Demokratie hat Yvonne Hofstetter 2016 ein Buch unter dem Titel Das Ende der Demokratie: Wie die Künstliche Intelligenz die Politik übernimmt und uns entmündigt veröffentlicht. Darin heißt es u. a.: „Big Data speichert unser Verhalten, künstliche Intelligenzen analysieren unsere Absichten“ ([8], Klappentext). Aussagen wie diese werfen Fragen nach den politischen Aspekten der neueren technischen Entwicklungen wie dem Primat der Politik über Wirtschaft und Technik und der Überlebensfähigkeit von Demokratie auf.
Auf Computern basierende Technik (verkörpert durch Big Data), die zugehörige Wissenschaft (verkörpert durch die KI) und die schon heute hochgradig mit der Wirtschaft verbundene Politik bilden ein Dreieck mit eng geknüpften Wechselbeziehungen, die in der folgenden Grafik schematisch dargestellt sind (Abb. 1). Die darin enthaltenen Thesen zu diesen Bereichen und ihren Beziehungen sollen im Folgenden ausgeführt und näher erläutert werden. Dabei werde ich mich vorwiegend auf drei jüngere Publikationen – Die smarte Diktatur von Harald Welzer [16], Die bezifferte Welt von Colin Crouch [3] und Robokratie von Thomas Wagner [14] beziehen.
×
Unsere Demokratie auf dem Weg in eine smarte Diktatur?
In seinem 2016 erschienenen Buch Die smarte Diktatur konstatiert der Autor Harald Welzer in dem von der Technik befeuerten Zusammenwachsen von Konsum und Überwachung einen Angriff auf unsere Freiheit [16]. Den neuen Mittelpunkt des Wirtschaftsgeschehens bilden als Global Player weltweite Internet-Konzerne wie Google, Apple, Microsoft, Facebook, Amazon oder PayPal.
Allseitige Überwachung
Die neuen Schätze des IT-Zeitalters sind die Daten der Computernutzer. So nutzen z. B. geschätzte knapp 3 Mrd. Menschen Google, 1,5 Mrd. nutzen Facebook. Persönliche Daten werden zum größten Teil von den Nutzern selbst unbedacht und „freiwillig“ geliefert. Diese Daten müssen nur (z. B. mit Algorithmen, die etwa dem Prinzip der Rasterfahndung folgen) gefiltert und ausgesiebt werden. So machen sich heute viele IT-Nutzer zu Komplizen ihrer eigenen Überwachung und kommerziellen Ausbeutung.
Viele der Auswirkungen bekommen die Nutzer nur indirekt oder gar nicht zu spüren. Wenn z. B. der o. g. Michael Kosinski mit seinem Verfahren zur Psychometrie und dem Ocean-Modell allein aus den „Likes“ von Facebook-Nutzern passgenaue Persönlichkeitsprofile erstellt, die dann wiederum zur gezielten Wahl- oder Produktwerbung eingesetzt werden, so ahnt der Empfänger der Werbebotschaften nicht einmal etwas über deren Herkunft und Zustandekommen.
Selbst bei anscheinend gut gemeinten Angeboten wie z. B. der Petitionsplattform change.org kann man keineswegs sicher sein, dass diese wirklich den angekündigten wohlmeinenden Zielen dienen. Vielmehr besteht der begründete Verdacht, dass sich dahinter womöglich weltumspannende Datensammelunternehmen verbergen, die en gros mit E‑Mail-Adressen handeln und mit modernen Algorithmen die Petitenten klassifizieren, diese Daten weitergeben und die Betroffenen weiteren gezielten Aktionen aussetzen. Für dieses Geschäftsgebaren hat change.org 2016 einen Big Brother Award erhalten [4].
Social Bots
Die Agententechnologie (vgl. oben) liefert mit den Social Bots eine neue Form der massenweisen, aber dennoch gezielten Werbung und Beeinflussung. Social Bots sind computergesteuerte (Pseudo‑) Akteure in sozialen Medien, die gezielt eingesetzt werden, um z. B. automatische Antworten zu geben, Werbebotschaften oder politische Meinungsbekundungen zu verbreiten. Das Besondere an diesen „sozialen“ Robotern ist, dass sie für die Adressaten in sozialen Netzwerken von „echten“ Teilnehmern oft kaum zu unterscheiden sind. Im letzten US-Wahlkampf sollen solche automatisierten Tweets in großem Umfang von Trump und den Republikanern, aber auch teilweise von den Demokraten eingesetzt worden sein [13].
Panoptikum
Der Autor Welzer sieht in den Datensammel-Methoden eine neue Form des Panoptikums, eine von dem englischen Philosophen Jeremy Bentham gegen Ende des 18. Jahrhunderts entworfene Form der totalen Überwachung von Gefängnisinsassen von einem einzigen Punkt aus [16, S. 53]. Die technischen Potenziale für die Erfassung und Sammlung von Nutzerdaten sind dabei noch keineswegs erschöpft – ganz im Gegenteil: Laufende Entwicklungen wie Smart House, Internet der Dinge, Digitalisierte Autobahnen, Share Economy, „smartes“ Spielzeug, Körpersensoren mit Datenaufzeichnung (life logger, self logger) werden gigantische Mengen von weiteren personenbezogenen Daten liefern, die zwar zunächst wie gewaltige Halden von Datenmüll wirken, jedoch mit den ausgefeilten modernen Auswertungsverfahren wertvolle Schätze zur totalen Kommerzialisierung und Überwachung liefern. Und das alles geschieht nicht etwa durch den Zugriff eines totalen Staates in Big-Brother-Manier, sondern wird freiwillig und meist unbedacht geliefert von naiven, mit vermeintlichen Komfortanwendungen geköderten, aber sich dabei selbst entmündigenden IT-Nutzern.
Neofeudalismus
Neben der fortschreitenden Auslieferung an technische Systeme und Gerätschaften sehen wir uns einer sukzessiven Aushöhlung von Staaten und demokratischen Institutionen (z. B. von Verbänden und Gewerkschaften) zugunsten anonymer Akteure, Märkte und Technologieunternehmen gegenüber. Diese Form des „Neo-Feudalismus“ (H. Welzer) ist ein schleichender Prozess, der sich – von der Öffentlichkeit weitgehend unbemerkt – nun schon seit fast einer Generation vollzieht. In seinen unübersehbaren Auswirkungen wie Privatisierung, Deregulierung, Verschleuderung von Staatsvermögen, Finanz- und Umweltkrisen ist er eine Folgeerscheinung des wirtschaftlichen Neoliberalismus, die nur von Zeit zu Zeit deutlicher wahrgenommen wird und dann zuweilen zu spontanen Reaktionen führt. Davon zeugen Vokabeln wie „Occupy Wall Street“, „Politikverdrossenheit“, „Heuschrecken“, „Raubtierkapitalismus“, „Wutbürger“ etc. Dass dabei die wirtschaftliche Liberalisierung keineswegs zwangsläufig mit politischer Liberalität einhergeht, zeigt in besonderem Maße das Beispiel China, aber auch in den USA und europäischen Ländern wie Ungarn oder Polen zeugen deutliche autoritäre Tendenzen von der zunehmenden Bedrohung der Freiheitsrechte.
Die schleichende Auflösung der Demokratie
Es ist ein weitverbreiteter Glaube, die momentanen Entwicklungen der allgegenwärtigen Technisierung und Digitalisierung seien weniger gefährlich, solange es keinen Regimewechsel hin zu einem totalitären Staat gäbe. In der Tat wäre eine Kombination von totalitärem Staat und einer Technik, welche die Orwell‘schen Visionen von 1984 schon heute weit übersteigt, wirklich schreckenerregend. In China ist man allerdings bereits dabei, ein landesweites Punktesystem einzuführen, das die Bürger nach ihrem sozialen und politischen Wohlverhalten bewertet, nicht regelkonformes Verhalten mit Punkteabzügen bestraft und den Zugang zu Sozialleistungen vom aktuellen Punktestand abhängig macht [7].
Aber selbst bei uns haben wir es bereits jetzt mit einer zwar subtileren, aber dafür mindestens ebenso effektiven Form der indirekten Machtausübung durch weitgehend unsichtbare und damit nahezu unangreifbare kommerzielle Machthaber zu tun. Dieser Wechsel zur „smarten Diktatur“ (wie Welzer sie nennt) vollzieht sich innerhalb unserer definierten und (noch) garantierten Freiheitsspielräume – „die Auflösung der Demokratie geschieht im Rahmen der Demokratie“ [16, S. 200].
Libertarismus – weniger Staat und mehr Monopole
Ein prominenter Vertreter dieses neuen Verständnisses von Demokratie ist Peter Thiel. Der Sohn deutscher US-Immigranten brachte es durch geschickte Investitionen und Finanzgeschäfte zu einem großen Vermögen und ist heute mehrfacher Milliardär. Demokratie und Freiheit passen nach Thiel schlecht zusammen – nun klar, denn demokratische Gesetze und Regulierungen behindern das freie Unternehmertum und könnten mögliche, auf Kosten der Allgemeinheit erzielbare Gewinne schmälern [16, S. 186/187]. Dies passt zur Tendenz gegenwärtiger Freihandelsverträge, „Handelshindernisse“ (sprich gerechtfertigte Einschränkungen z. B. zum Schutz lokaler Akteure oder der Umwelt) zu beseitigen.
Thiel gründete u. a. den Internet-Bezahldienst PayPal, investierte frühzeitig in Start-ups und machte dabei mit dem Aufstieg von Facebook immense Gewinne. Er engagiert sich u. a. für das Seasteading Institute, ein Projekt zur Errichtung von künstlichen Inseln und Städten außerhalb jeglicher staatlicher Hoheitsgebiete sowie für Visionen der „harten KI“ wie Lebensverlängerung und Erlangung der Unsterblichkeit mittels KI [14, S. 64].
Politisch setzt er sich gegen Vermögenssteuern und die Begrenzung von Monopolen ein, Monopolkonzerne wie Google hält er für gut, weil maximal effizient. In einem Essay verrät Thiel, er glaube nicht mehr, dass „Demokratie und Freiheit zusammenpassen“. Das politische Heil sieht er „in den Händen eines einzelnen Menschen, der den Mechanismus der Freiheit erschafft oder verbreitet, den wir brauchen, um die Welt zu einem sicheren Ort des Kapitalismus zu machen“ (zit. n. [16, S. 188]).
Diese Vorstellungen decken sich weitgehend mit denen von neuen (rechts-)libertären Bewegungen, die sich vor allem in den USA hoher Popularität erfreuen. Privilegien, Regulierungen und Eingriffsmöglichkeiten der Staaten sind auf ein Minimum zu reduzieren (oder in der anarchischen Extremvariante ganz abzuschaffen), die Freiheit des Besitzes und des Unternehmertums steht über Forderungen nach Gleichheit oder Brüderlichkeit.
Postdemokratie
Nach Ansicht kritischer Beobachter sind die Ziele des schleichenden Demokratieabbaus zumindest teilweise schon heute verwirklicht. So sieht der britische Soziologe Colin Crouch bereits das Zeitalter der Postdemokratie für gekommen, in dem Wahlen, demokratische Institutionen und Machtbekundungen nur noch eine Schein- und Spektakelfunktion für das Volk haben und die ausschlaggebenden Entscheidungen hinter verschlossenen Türen von Wirtschafts- und Informationsmagnaten bzw. deren Lobbyisten herbeigeführt werden. Eine entscheidende Rolle spielt dabei die Herrschaft großer Konzerne über Informationen und Wissen:
Unter dieser Machtfülle hat in besonderem Maße das demokratische Gemeinwesen zu leiden, denn zuverlässige Informationen sind sein Lebenselixier. Sobald die Inhaber großer Einflusssphären über die Macht verfügen, Informationen zu unterschlagen oder die Öffentlichkeit mit einseitigen, irreführenden oder sonstwie manipulierten Informationen zu versorgen, wird das betroffene Gemeinwesen zur Geisel ihrer Eigeninteressen [3, S. 16].
Der Autor wendet sich nachdrücklich gegen die neoliberale These, wonach der Markt allein in der Lage ist, alle Güter und Dienstleistungen durch eine einheitliche Bewertungsskala – den Preis – vergleichbar zu machen und damit angeblich das bestmögliche, allumfassende gesellschaftliche Wissen verkörpert. Er erkennt vielmehr im Neoliberalismus den „Feind des Wissens“ und belegt seine Kritik an zahlreichen Beispielen aus der Finanzökonomie (z. B. der Finanzkrise von 2008), dem öffentlichen Dienst, privatem Konsum, Gesundheits- und Bildungswesen etc.
Big Data spielt dabei eine tragende Rolle: als zentrales Instrument einer durchgängigen, allumfassenden, immer aktuellen Bewertungsmaschinerie, als nahezu unangreifbare, pseudorationale Entscheidungsinstanz und damit letztlich einen die Demokratie aushebelnden Machtfaktor. „Pseudorational“ deshalb, weil die Bewertungskriterien und -regeln von den marktbeherrschenden Kräften ausgewählt und gestaltet werden und das ganze Verfahren damit weitgehend selbst-referenziell wird. Crouchs Fazit lautet:
In ihrem Bestreben, uns in einen neuen Typus Mensch zu verwandeln, der exakt zu wissen hat, wer er ist, haben sich die Neoliberalen sehr weit in die Nähe der totalitären Ideologen begeben, für deren diametrales Gegenteil sie sich so gerne halten ([3], Klappentext).
Der frühere US-amerikanische Vizepräsident und Präsidentschaftskandidat im Jahr 2000, Al Gore, vertritt ähnliche Thesen:
Je mehr sich die Macht, Zukunftsentscheidungen zu treffen, von den politischen Systemen zu den Märkten hin verlagert und je stärker die unsichtbare Hand dank immer ausgefeilterer Techniken wird, desto mehr verkümmern die Muskeln der Selbstverwaltung ([5], Kap. Das Unbehagen im demokratischen Kapitalismus, S. 23).
Die Thesen der Künstlichen Intelligenz
Bei den erwähnten, heute weitgehend automatisierten Bewertungsvorgängen spielt die KI eine immer größere Rolle. Hohe Effizienzsteigerungen bei Mustererkennung, künstlichen neuronalen Netzen und automatischem Lernen haben der KI zusammen mit der Nutzung von Big Data zu neuen Höhenflügen verholfen.
Claus und Schwill definieren im „Duden Informatik“ [1] die KI folgendermaßen:
In der KI wird untersucht, wie man intelligentes Verhalten von Computern erfassen und nachvollziehen lassen kann oder wie man allgemein mit Hilfe von Computern Probleme löst, die Intelligenzleistungen voraussetzen (zit. nach [11, S. 13]).
Diese Definition lässt in sehr geschickter Form verschiedene Interpretationsmöglichkeiten zu und bildet damit ein geeignetes Dach für zwei Denkschulen, die sich in der Geschichte der KI teilweise erbitterte Gefechte geliefert haben. So können für die Anhänger der sogenannten schwachen KI-These Computer menschliche Intelligenzleistungen immer nur simulieren, während für die Anhänger der starken These die KI selbst intelligentes Verhalten ist.
Wenn man den Gedanken einer Entität KI, die selbst intelligentes Verhalten aufweist, weiterspinnt, so werden bald weitreichende Konsequenzen sichtbar und möglich: Eine starke KI (und damit letztlich Computer, also Maschinen) kann Entscheidungen treffen, für die sie dann folgerichtig auch Verantwortung übernehmen sollte. Von da aus ist es dann nur noch ein weiterer, konsequenter Schritt, sie wie ein autonomes Subjekt anzusehen und zu behandeln. Dass von einer so aufgefassten und womöglich akzeptierten KI nicht nur Hilfestellungen, sondern auch große Gefahren ausgehen, liegt auf der Hand. Selbst glühende Anhänger wie der unten zitierte Elon Musk sind sich dieser Gefahren durchaus bewusst.
Robokratie: Vision einer weltumspannenden Techno-Diktatur
Der Kultursoziologe und Publizist Thomas Wagner setzt sich in seinem Buch Robokratie – Google, das Silicon Valley und der Mensch als Auslaufmodell mit den alten und neuen Thesen und Prophezeiungen von führenden KI-Protagonisten auseinander und beleuchtet diese kritisch [14].
Staatsfeindschaft und Technologiegläubigkeit
Hier zeigt sich ein (Nahezu‑) Konsens von Libertarismus und führenden Infotech-Schmieden im Silicon Valley und anderswo: Misstrauen gegenüber dem Staat und ungehinderter Primat der Technik – nicht Politik, sondern Computer, Big Data und Künstliche Intelligenz sind die wichtigsten Hebel zur Weltverbesserung. Oberstes Ziel ist eine radikale ökonomische Liberalisierung, begleitet durch technische Weiterentwicklung.
Im Silicon Valley begrüßten Rechte wie Linke eine technologische Entwicklung, die nach ihrer Überzeugung die Macht und persönliche Freiheit des Individuums vergrößern und die des Staates radikal verringern würde [14, S. 28].
Der Mensch als Auslaufmodell
Hier greift die neue KI auf Thesen der alten „harten KI“ und den Traum einer reproduktiven „ultra-intelligenten Maschine“ (Irving John Good, zit. n. [14, S. 72]) zurück, d. h. einer Maschine, die selbst wieder intelligente Maschinen entwirft und in die Welt setzt. So geartete Maschinen könnten u. a. Gehirninhalte hoch- und auf Menschen oder andere menschenähnliche Wesen herunterladen, sich physisch und intellektuell mit Menschen zu Cyborgs verbinden, Unsterblichkeit erlangen und die Menschen alten Schlages in nahezu jeder Beziehung übertreffen. Ideen dieser Art wurden bereits Ende des 20. Jahrhunderts von (harten) KI-Forschern wie Hans Moravec formuliert und dann u. a. von dem Google-Chefentwickler, Autor und Futuristen Ray Kurzweil propagiert.
Kurzweil ist einer der bekanntesten Vertreter des Transhumanismus, einer neueren philosophischen Strömung, die eine zukünftige Stufe der menschlichen Evolution durch wissenschaftliche und technische Umwälzungen und damit verbundene fundamentale Veränderungen der menschlichen Natur voraussieht. Auch für den israelischen Historiker und Bestseller-Autor Yuval Noah Harari könnte eine solche Entwicklung das Ende des Humanismus bedeuten, der das Weltbild zumindest der abendländischen Völker seit mehr als 200 Jahren bestimmt. Anstelle des uns bekannten Homo sapiens könnte als neue Evolutionsstufe Homo deus – ein durch Technikeinsatz „gottgleich“ ausgestatteter und überhöhter Mensch treten – damit wäre eine neue Ära des „Dataismus“ oder „Techno-Humanismus“ eingeleitet [6].
Machtübernahme der Maschinen – Die Singularität ist nahe
Von den genannten „super-intelligenten“ Maschinen ist der Weg nicht mehr weit zum finalen Siegeszug der Künstlichen Intelligenz: Computer übernehmen die Macht, versklaven die Menschen oder machen sie letztlich ganz überflüssig. Futuristen beschreiben den Moment, in dem die Intelligenz der Maschinen die der Menschen übertrifft, als „technische Singularität“. In diesem Moment würde die Geschichte unvorhersagbar – „… dann wird der Mensch seine eigene Rolle in der Welt grundsätzlich überdenken müssen. Die Welt wird eine völlig andere sein. …“ (Moravec 1999, zit. nach [14, S. 34]).
Glaubt man Autoren wie Ray Kurzweil oder Nick Bostrom, so könnte dieser Moment einer „Intelligenzexplosion“ (Bostrom) nahe bevorstehen. So lautet ein Buchtitel: Menschheit 2.0. Die Singularität naht [10]. Darin werden das Zusammenwachsen von Genforschung, Nanotechnologie, KI und Robotik sowie ein sich selbst verstärkendes, exponentielles Technikwachstum (erst „trans-biologisch“, dann „post-biologisch“) prognostiziert. Ziel ist die „Gottwerdung des Menschen mittels Technologie“ [14, S. 38].
Dies sind nun keineswegs nur Äußerungen von einzelnen, durchgeknallten Spinnern, sondern Forschungsgegenstände wohl ausgestatteter und großzügig finanzierter Institute und Organisationen wie z. B. der 2008 von Ray Kurzweil und Peter Diamandis auf dem NASA-Campus im Silicon Valley gegründeten Singularity University, dem Machine Intelligence Research Institute (MIRI) in Berkeley, dem Future of Humanity Institute (FHI) an der Universität Oxford oder dem Transhumanistenverband Humanity+. So bietet die Singularity University 10-Wochen-Kurse für 30.000 $ mit Vorlesungen von Kurzweil, Diamandis (Molekulargenetiker und Raumfahrtingenieur) und Larry Page (Google) sowie Team-Seminare an und gilt als „Kaderschmiede des Silicon Valley“ [14, S. 83].
Kritik
Selbstverständlich sind Visionen oder Utopien wie die oben genannten auch Gegenstand vielfältiger Kritik. So konstatiert der britische Soziologe Richard Barbrock einen geradezu „religiösen Charakter des technischen Fortschrittsglaubens“ und der Künstler und Informatiker Jaron Lanier sieht eine „Neue Form der Religion, die auf dem Streben nach Unsterblichkeit basiert“ [14, S. 40–41].
Auch Stephen Hawking hat vor der (harten) KI gewarnt und sah darin eine Bedrohung für die Menschheit. Durch die KI könnte das Ende der Menschheit eingeleitet werden. Ob die Maschinen irgendwann die Kontrolle übernehmen werden, werde die Zukunft zeigen. Aber bereits heute sei klar, dass Maschinen die Menschen zunehmend vom Arbeitsmarkt verdrängen.
Selbst von Technologie-Unternehmern wie dem PayPal-Mitgründer und Tesla-Investor Elon Musk kommen (wie auch immer zu bewertende) Warnungen:
Der Fortschritt bei künstlicher Intelligenz (ich meine nicht einfache künstliche Intelligenz) ist unglaublich schnell. …
und weiter:
Künstliche Intelligenz kann gefährlicher als Atomwaffen sein (zit. n. [14, S. 17]).
Yuval Harari entwirft die Vision einer neuen „Datenreligion“ und verweist auf die großen politischen Visionen des 20. Jahrhunderts mit verheerendem Ausgang: „Die Verbindung aus gottgleicher Technologie mit größenwahnsinniger Politik würde der Katastrophe Tür und Tor öffnen.“ In Verbindung mit dem gerade im Aufbau befindlichen „Internet der Dinge“ könnte sich der Dataismus auf den gesamten Planeten Erde (und womöglich darüber hinaus ins Universum) ausbreiten – „dieses kosmische Datenverarbeitungssystem wäre dann wie Gott …“ und „die Menschen … dazu verdammt, darin aufzugehen.“ [6, S. 509, 515].
Die verkündete Singularität als Totengräber der Demokratie
Selbst wenn man solche Dystopien für übertrieben hält, bleibt die wesentlich näher liegende Quintessenz des Autors Wagner als Mahnung bestehen: „Die eigentliche Gefahr, die uns droht, ist aber nicht die Machtübernahme der Roboter, sondern die Selbstaufgabe des Menschen“ [14, S. 28].
Ein Stück weitergedacht, könnte diese Selbstaufgabe wie folgt ablaufen: Die Singularität findet nicht einfach statt (woran sollte sie auch festgestellt werden?), sondern sie wird – ganz im Einklang mit ihrem quasi-religiösen Charakter – verkündet. Super-Intelligenzen sind dann die Götter dieser neuen Datenreligion. Singularität, Maschinen-Allmacht und Transhumanismus bilden die neuen Heilslehren. „Erleuchtete“ und Wissende wie Ray Kurzweil, Nick Bostrom, Peter Diamandis oder Peter Thiel fungieren als Propheten/Ayatollahs/Gurus eines neuen „Gottesstaats“ und die Masse der Erdbewohner haben sich einer allumfassenden Technokratie zu beugen, in der sie noch über das schiere Überleben froh sein müssen.
So könnten sich schließlich die beiden scheinbar widersprüchlichen Ziele der Selbstaufgabe des Menschen einerseits und der Gottwerdung des Menschen mittels Technologie andererseits auf raffinierte Weise miteinander verbinden: Während eine privilegierte Kaste von (Daten‑) Hohepriestern über die weltumspannende digitale Infrastruktur und deren Einsatz gebietet, hat sich der Rest der Menschheit der totalen Kontrolle einer doktrinär gefestigten Maschinenherrschaft zu unterwerfen.
Selbst eine Art von (Pseudo‑) Demokratie könnte darunter durchaus weiter ablaufen – etwa nach iranischem Vorbild: Wahlen werden regelmäßig abgehalten, aber die letzte Instanz bilden immer die Neuen Götter (= Maschinen), die, die ja nun leider die Macht übernommen haben und die durch die neuen Propheten lediglich vertreten werden. Die könnten sogar eine Mittler- und Trösterrolle übernehmen: Wir hatten Euch ja gewarnt.
Was kann man tun?
Angesichts der engen Verflechtungen zwischen einer – wie es scheint – unaufhaltsam voraneilenden Technik und Wissenschaft einerseits und einer willig folgenden Politik und Wirtschaft andererseits stellt die Sicherung der Demokratie und ihre Bewahrung vor gefährlichen Auflösungstendenzen eine gewaltige Herausforderung dar – vielleicht sogar die zentrale des laufenden Jahrhunderts.
Wie kann man sich dieser Herausforderung stellen und wirksame gegenläufige Tendenzen etablieren? Ein paar Anregungen dazu sollen diese Abhandlung als Ausblick beschließen.
Bildung statt (forcierter) Digitalisierung
„Digital first – Bedenken second.“ So lautete 2017 der Slogan einer vorgeblich der „Liberalität“ verpflichteten Partei im Bundestagswahlkampf. Das ständige, auch von anderen Parteien gepflegte Rufen nach mehr und schnellerer Digitalisierung ist wohl kaum geeignet, die oben skizzierten gefährlichen Tendenzen aufzuhalten oder auch nur zu verlangsamen. Vielmehr werden diese ganz ohne staatliches oder öffentliches Zutun von kapitalkräftigen Unternehmen und ihren Lobbyisten mehr als genügend befördert – zusätzliche staatliche Hilfen würden also eher Öl in das bereits lodernde Feuer gießen.
Was es dagegen braucht, ist Erziehung zum kritischen Denken. Dabei spielt der Digitalbereich heute eine herausragende Rolle. Wie gehe ich mit digitalen Medien und mit meinen Daten um? Was will und kann ich von mir preisgeben und welche Folgen haben solche Preisgaben? Wie schütze ich mich gegen das Abgreifen und die mögliche Weitergabe meiner Daten durch „soziale“ Medien und andere Internet-Anbieter? Wie werden Schutz und Sicherheit meiner Daten garantiert, wie vermeide ich meine (ja meist unbedachte) Selbstentblößung und -entmündigung? Welchen (möglicherweise verdeckten, oft schwer oder gar nicht bezifferbaren) Preis zahle ich für scheinbar komfortable und oft kostenlose Online-Anwendungen? Welche gesellschaftlichen Auswirkungen haben Neuerungen wie fahrerlose Autos, Internet der Dinge, life logger, „smarte“ Spielzeuge, Häuser, Wohnungen und Umgebungen und welche Konsequenzen können sie (neben ihren beworbenen Fähigkeiten und Annehmlichkeiten) für mich persönlich nach sich ziehen?
Zu allen diesen Fragen ist eine breite, offene und faire öffentliche Aufklärung unabdingbar. Diskussionen dürfen nicht einseitig, von Unternehmer- und Anbieterinteressen gesteuert erfolgen, sondern müssen immer Daten- und Verbraucherschützer, kritische Verbände, NGOs etc. einbeziehen.
Beim staatlichen Handeln sind – nicht zuletzt wegen der vielfältigen internationalen Verflechtungen und wegen der Langzeitwirkungen einer nunmehr fast 40 Jahre andauernden neoliberalen Deregulierungspolitik – die Herausforderungen noch eine Stufe höher. Hier müssen sinnvolle und wohlabgestimmte Regulierungen dafür sorgen, dass Staaten und öffentliche Institutionen ihre Handlungsfähigkeit bewahren bzw. wiedererlangen.
So müssen z. B. im IT-Bereich soziale Medien und Online-Anbieter zum sorgfältigen Umgang mit den Daten ihrer Nutzer verpflichtet werden. Aggressivwerbung ist zu unterbinden, Nutzer müssen besser auf ihre Rechte und auf unbedachte Folgen ihrer Aktionen hingewiesen werden, Parteienwerbung und die Beeinflussung demokratischer Wahlen sind auszuschließen. Große Monopole im Informations- und Kommunikationsmarkt sind auf ihre Demokratie-Verträglichkeit zu prüfen und ggf. zu zerschlagen. Internationale Konzerne sind (ggf. gestückelt) nationalem Recht zu unterwerfen und unter diesem angemessen zu besteuern.
Im Bereich Wissenschaft und Forschung muss ein Ethikrat über die Vergabe öffentlicher Gelder und die Verwendung von Drittmitteln wachen und ggf. die Freigabe für menschenverachtende KI- oder Genforschung verweigern. Privat-Universitäten, private Forschungsinstitute und Think Tanks sind auf ihre Verträglichkeit mit der Verfassung und den demokratischen Grundprinzipien zu kontrollieren und ggf. abzumahnen oder zu schließen.
Neben den o. g. speziellen, auf die digitale Welt bezogenen Bildungsinhalten sollten die „alten“, dem Humanismus verpflichteten Fächer und Bereiche keinesfalls vernachlässigt werden. Im Vordergrund steht dabei die historische und politische Bildung. So sollten z. B. Werke wie George Orwells 1984, Aldous Huxleys Schöne neue Welt und Die Macht der Computer und die Ohnmacht der Vernunft von Joe Weizenbaum [15] zur Pflichtlektüre für alle Heranwachsenden werden.
Die alte Streitfrage: Religions- oder Ethik-Unterricht an Schulen? könnte salomonisch durch ein gemeinsames Fach Ethik und Religionen gelöst werden, in dem neben Geschichte und Grundsätzen von Ethik und Humanismus grundlegende Kenntnisse über die großen Weltreligionen vermittelt werden. Dazu gehören dann auch die Digitalethik sowie eine kritische Auseinandersetzung mit Utopien wie Unsterblichkeit, Maschinenvergötterung oder Transhumanismus.
Und – last but not least – bei allem offenkundigen Bedarf an Naturwissenschaften, Mathematik und Informatik – wäre es ein großer Fehler, die Geisteswissenschaften einem schillernden Zeitgeist zu opfern – stehen sie doch für eine jahrtausendealte Kultur und für die Achtung vor dem menschlichen Geist gegenüber einer hastig maschinisierten Ratio. Bewahren und vermitteln sie uns doch unvergängliche Werke aus Literatur, Philosophie, Kunst und Musik, mit denen es auch in der Schönen Neuen transhumanen Welt keine Produkte von dichtenden KI’s, Download-Surrogaten oder unsterblichen Cyborgs werden aufnehmen können.
Open Access Dieser Artikel wird unter der Creative Commons Namensnennung 4.0 International Lizenz veröffentlicht, welche die Nutzung, Vervielfältigung, Bearbeitung, Verbreitung und Wiedergabe in jeglichem Medium und Format erlaubt, sofern Sie den/die ursprünglichen Autor(en) und die Quelle ordnungsgemäß nennen, einen Link zur Creative Commons Lizenz beifügen und angeben, ob Änderungen vorgenommen wurden.
Die in diesem Artikel enthaltenen Bilder und sonstiges Drittmaterial unterliegen ebenfalls der genannten Creative Commons Lizenz, sofern sich aus der Abbildungslegende nichts anderes ergibt. Sofern das betreffende Material nicht unter der genannten Creative Commons Lizenz steht und die betreffende Handlung nicht nach gesetzlichen Vorschriften erlaubt ist, ist für die oben aufgeführten Weiterverwendungen des Materials die Einwilligung des jeweiligen Rechteinhabers einzuholen.
Hauptaufgabe dieser Zeitschrift ist die Publikation aktueller, praktisch verwertbarer Informationen über technische und wissenschaftliche Fortschritte aus allen Bereichen der Informatik und ihrer Anwendungen in Form von Übersichtsartikeln und einführenden Darstellungen sowie Berichten über Projekte und Fallstudien, die zukünftige Trends aufzeigen.