Künstliche Intelligenz als kontingenzerzeugende Technik: Eine praxistheoretische Perspektive

Tendenziell gilt dies auch für die internationale soziologische Literatur, in der sich ab Mitte der 1980er Jahre zunehmend programmatisch ausgerichtete Arbeiten zum Thema finden (z. B. Brent 1986; Collins 1990; Ennals 1991; Gilbert & Heath 1985; Schwartz 1989; Woolgar 1985).

Wie es von einer „multiparadigmatischen Wissenschaft“ (Kneer & Schroer 2009) wie der Soziologie zu erwarten ist, findet sich mittlerweile eine Vielzahl an Perspektiven auf KI. Diese reichen von ethnographischen Studien zur Sozialrobotik (Breazeal 2002; Muhle 2023), die die verkörperte Form von KI in den Vordergrund rücken (z. B. Alač 2009, 2016; Bischof 2017; Koolwaay 2018; Straub 2020) bis hin zu Arbeiten, die KI als ein algorithmisches Geschehen fassen, durch das neuartige gesellschaftliche Möglichkeits- und Wirklichkeitsräume eröffnet werden. Dieser Zugang findet sich vorrangig in der Systemtheorie, die sich bereits früh mit der Kommunikation mit Computern auseinandergesetzt hat (u. a. Baecker 2011; Esposito 2014, 2017; Harth & Lorenz 2017) und in Studien zur ‚intelligenten‘ Algorithmisierung von Öffentlichkeit, Macht und Kontrolle, wie sie etwa als neues ökonomisches Prinzip von „data, extraction, analysis“ (Zuboff 2015), als „threat of algocracy“ (Danaher 2016), als (un-)sichtbar von Daten durchzogenes „algorithmic life“ (Amoore & Piotukh 2016) oder als politisch und ethisch problematische Verengung von entscheidungsrelevanten Perspektiven und Zukunftsnarrativen durch KI (Amoore 2020) diskutiert wird.

‚Die‘ Künstliche Intelligenz gibt es nicht, da unter diesem Sammelbegriff eine Vielzahl von Technologien und Paradigmen (darunter das Paradigma der konnektionistischen bzw. subsymbolischen KI) verhandelt werden. Zudem ist der Begriff der Künstlichen Intelligenz selbst einem historischen Wandel unterworfen, sodass mit ihm in Abhängigkeit von technischen und sozialen Entwicklungen zu verschiedenen Zeiten jeweils Anderes bezeichnet wurde. Es gibt mittlerweile eine Fülle an Literatur, die sowohl den Begriff der Künstlichen Intelligenz als auch die unter diesem Begriff firmierenden Technikformen erläutern und historisch einordnen – einen solchen Überblick kann dieser Beitrag nicht leisten. Stellvertretend für viele seien daher an dieser Stelle Mainzer (2019), Rosengrün (2021) und Seising (2021) genannt.

Das Paradigma der symbolischen KI geht davon aus, „that the correct level at which to model the mind is that of the symbol – that is, an entity in a computer program that is taken to refer to some entity in the real world.“ (Chalmers 1992, S. 26; Hervorh. i. Orig.).

Symbole werden in dieser vernetzten Funktionsweise allein als Ergebnis sichtbar: Konnektionistische KI-Systeme „still follow rules, but the rules are well below the semantic level. It is hoped that as a consequence of following rules at this low level, semantic properties will emerge – that is, manifest themselves in the processing and behavior of the program – without having been explicitly programmed in. Consequently, when viewed at the semantic level such systems often do not appear to be engaged in rule-following behavior, as the rules that govern these systems lie at a deeper level.“ (Chalmers 1992, S. 26; siehe auch Smolensky 2012).

Dies kann sich, wie die aktuelle Entwicklung sogenannter Large Language Models (LLMs) bzw. Transformer-Technologien zeigt, jedoch schnell ändern. Zum Zeitpunkt des Schreibens dieses Textes erhalten diese Technologien deshalb erhöhte Aufmerksamkeit, da sie mit ihrer konnektionistischen Architektur in der Lage sind, mit entsprechendem Training Inhalte (z. B. Texte oder Bilder) zu generieren, die der Performanz menschlicher Akteure erstaunlich nahekommen. Bubeck et al. (2023) machen hier – unter Berücksichtigung bekannter Restriktionen von LLMs und algorithmischer biases – sogar „sparks“ einer allgemeinen Intelligenz von KI aus. Ob diese These haltbar ist, wird sich nach dem Abflauen des Hypes um diese Technik allerdings erst noch zeigen müssen.

Unvorhersehbar ist eine Technik auch dann, wenn sie plötzlich defekt ist oder aufgrund einer Fehlfunktion Fehler produziert – siehe etwa Latour (2002b) für das Versagen eines Overhead-Projektors oder Orr (1996) für das Irritationspotenzial von Fotokopierern. Dies gilt grundsätzlich auch für KI, ist hier aber nicht mit ‚neuer Qualität der Unvorhersehbarkeit‘ gemeint, die auf die dieser Technik intentional eingeschriebenen Potenziale abhebt.

Im Folgenden meint KI immer die beschriebene Form der konnektionistischen bzw. subsymbolischen KI.

Es stellt sich die Frage, inwieweit ein ‚klassischer‘ soziologischer Technikbegriff im Kontext von KI überhaupt noch tragfähig ist. Die Überlegungen in diesem Beitrag können auch als Versuch gelesen werden, den Technikbegriff um Dimensionen der Kontingenz zu erweitern.

So hat der Wissenschafts- und Techniksoziologe Steve Woolgar bereits 1985 angemerkt, dass KI eine gute Gelegenheit darstelle, über quasi-naturalisierte soziologische Gewissheiten – etwa, dass soziales Handeln genuin menschliches Handeln sei – nachzudenken (Woolgar 1985).

Wesentlich dafür ist, die praktischen Bedingungen von Handeln und Wissen herauszuarbeiten, die sich mit dem Wirken von KI einstellen und etablieren. Wenn daher im Folgenden die Akteur-Netzwerk-Theorie diskutiert wird, dann geschieht dies im Sinne einer Praxistheorie, der ein Praxisbegriff zugrunde liegt, der auf eine soziotechnisch erzeugte und sich dynamisch verändernde Ermöglichungsstruktur von Handlungen und Kommunikation abhebt. Der Begriff des Wirkens, der auf die transformativen Effekte von KI in ebendieser Praxis abstellt, dient dazu, apriorische Zuschreibungen von Handlungsfähigkeit oder Intentionalität an KI und eine damit verbundene Anthropomorphisierung einer menschengemachten Technik zu vermeiden. Zugleich wird damit der Umstand markiert, „dass Handlung und Technik jeweils nur in Zusammenhängen emergieren“ (Rammert 2016, S. 105), die im Falle von KI sowohl Erwartbares als auch Unerwartbares produzieren.

Man kann dies analog zum Verhältnis von Strukturfunktionalismus und Systemtheorie sehen: Während Talcott Parsons den Begriff des sozialen Systems analytisch verwendet, geht Niklas Luhmann davon aus, „dass es Systeme gibt.“ (Luhmann 1984, S. 30) Diese Differenz hat weitreichende Folgen für die Theorieentwicklung und empirische Forschung. In diesem Beitrag wird davon ausgegangen, dass es analytisch Sinn macht, technisches Wirken und menschliches Handeln symmetrisch zu beschreiben – doch dass dies keineswegs bedeutet, dass Technik ‚intelligent‘ ist oder ‚intentional‘ handelt.

Darauf weist auch Rauer (2023) hin, wenn er von sozio-algorithmischen Dynamiken spricht, die eindeutige Zurechnungen von Autorenschaft in der Praxis mit ‚intelligent‘ automatisierten Schreib(unterstützungs)programmen (z. B. ChatGPT) erschweren oder gar unmöglich machen.

Es wäre zu prüfen, ob und inwieweit diese Verschränkung von sinnsetzendem (erzeugte Selektivität) und sinnerzeugendem Wirken (erzeugende Selektivität) von KI ihrer Anthropomorphisierung Vorschub leistet: KI erscheint als eine Technik, deren technisches Wirken zu Deutungen einlädt, die sie im Bereich des Menschlichen ansiedelt.

Paradigmatisch dafür können generative KI-Anwendungen bzw. Transformer-Technologien wie der Chatbot ChatGPT gelten, die in Echtzeit im Austausch mit Nutzenden sinnvolle Texte erzeugen.

Analog zum Bloor’schen Symmetrieprinzip ist für diese Theoretisierung einer soziotechnischen Wissensgenese die Unterscheidung von ‚wahrem‘ und ‚falschem‘ Wissen auf analytischer (!) Ebene nicht von Bedeutung – für die gesellschaftliche Nutzung von KI allerdings umso mehr. Selbst fortgeschrittene KI-Anwendungen wie der Chatbot ChatGPT produzieren falsche Informationen und ‚fake news‘, die – nolens volens – von mehr oder weniger kompetenten Nutzenden bewertet und eingeordnet werden müssen.

Abzugrenzen davon ist die Notwendigkeit, Wissen über die Arten und Folgen der Algorithmisierung (in) der Gesellschaft zu entwickeln, die „uns ein anderes Denken über die Produktion von Macht und Hegemonie im Web, über die Formung und Ausrichtung von Information online, abverlangen.“ (Cardon 2017, S. 131 f.).

Bezogen auf die vieldiskutierte Frage der Standardisierung von Wissen durch KI bedeutet dies, dass Standardisierung praktisch immer auch mit Differenzen zu tun hat bzw. gerade auf die Möglichkeit von Differenzen angewiesen ist, um wirksam zu werden. Oder anders formuliert: Standardisierung muss Kontingenzen in der praktischen Umsetzung mit einrechnen und aushalten (können).

Folgt man Armin Nassehi, dann hängt die Zuschreibung von Intelligenz an eine Technik damit zusammen, dass „der Nutzer oder Anwender einer solchen Technik die Kontingenz des Gegenübers wahrnimmt, will heißen: dass man davon überrascht wird, dass der Automat so und nicht doch anders entscheidet – was den Automaten dann eben nicht mehr als Automaten erscheinen lässt.“ (Nassehi 2019, S. 222).

Mit Alfred Schütz (2004) lässt sich Relevanz als Verhältnis zwischen einem Ereignis und der darauf bezogenen Bedeutungszuschreibung verstehen. Aufseiten der KI können Korrelationen als Relevanzstrukturen gelten, wohingegen aufseiten des Individuums Relevanzen eng mit dem ihm verfügbaren Wissen und Erfahrungen zusammenhängen. Eine ‚symmetrische‘ Relevanztheorie für die hier beschriebene Relationierung von Mensch und KI, die die Etablierung einer soziotechnischen Ordnung entlang der Wechselseitigkeit und Dynamik je eigener algorithmischer und sozialer Relevanzstrukturen beschreibt, steht allerdings noch aus.

Interessant, aber soziologisch kurzsichtig erscheint hier die These einer „Obsoleszenz des Impliziten“ (Bächle et al. 2017), die behauptet, dass humanoide Roboter über Sensorik „mit den Dimensionen impliziten Wissens umzugehen“ (ebd., S. 68) wüssten und sie im eigenen Tun reproduzieren könnten. Dies verkürzt die Debatte um implizites Wissen jedoch beträchtlich und blendet aus, dass dazu mehr gehört als ein nur als regelhaft beobachtbares und damit algorithmisch formalisierbares Interaktionsgeschehen (siehe dazu u. a. Böhle & Rose 1992, Neuweg 2015 und Polanyi 1985). Aus diesem Grunde werden in der Argumentation dieses Beitrags die Ebenen der beobachtbaren Aktionen und die des verborgenen Impliziten und Latenten analytisch voneinander getrennt.

Eine menschliche Person kann immerhin ihr Handeln nachträglich rationalisieren und erklären.

Dies mag sich langsam ändern, da auch mediale Diskurse mittlerweile die Verzerrungen durch und Grenzen von KI (vgl. etwa Pfeiffer 2021, S. 284–285) erkennen und in der Berichterstattung aufgreifen.

Man kann dies auch so formulieren, dass es nicht nur um das Was des Wirkens von KI geht (Intransparenz), sondern auch um das Wie (Latenz).