Künstliche Intelligenz in der Forschung

„Künstliche Intelligenz“ (KI) ist ein Begriff, der zur Zeit große öffentliche Aufmerksamkeit erfährt. Die hohe Dynamik in diesem Bereich erfordert es, nicht nur bei der Klärung der Bedingungen, Wirkungen und Folgen hinsichtlich Gesellschaft und Wirtschaft stehenzubleiben: Es scheint vielmehr ein grundlegenderer Zugang zur Rolle von KI notwendig zu sein. Da in modernen Wissensgesellschaften wissenschaftliche Forschung wesentlicher Treiber gesellschaftlicher und wirtschaftlicher Entwicklungen ist, ist zu fragen, ob Forschungshandeln und Wissenserzeugung durch künstliche Intelligenz vor einem epochalen Wandel stehen und vor allem wie sich entsprechende Arbeitswelten verändern werden. Wird zum Beispiel der Mensch durch KI zu einer Randerscheinung in der Forschungspraxis oder wird er hier weiterhin zentraler Akteur bleiben?

Künstliche Intelligenz (KI) ist die Fähigkeit von Computersystemen, Aufgaben auszuführen, die normalerweise menschliche Intelligenz erfordern. Im Laufe der KI-Geschichte haben sich zwei Hauptströmungen von KI-Verfahren herausgebildet: Wissensbasierte KI und Machine Learning. Beide Strömungen haben Vor- und Nachteile. Hybride Verfahren kombinieren beide Strömungen, damit sie sich gegenseitig ergänzen können. Anwendungen von KI finden sich in nahezu allen Lebensbereichen. Im Umfeld der Forschung stellen wir beispielhaft KI-Anwendungen von drei Wissenschaftsdomänen vor: Physik, Klimaforschung und Medizin. KI zeigt sich darin als ein mächtiges Werkzeug, welches die Wissensarbeit verändert und das Potenzial hat, neue Möglichkeiten in der Forschung zu eröffnen.

Spricht man KI als Instrument wissenschaftlicher Arbeit an, wird zugleich unterstellt, dass ein menschlicher Akteur dieses Instrument (vermeintlich) zweckgerichtet einsetzt. Mit welchem Erfolg und unter welchen Erfolgskriterien der instrumentelle Einsatz auch immer erfolgt, grundsätzlich ist der menschliche Akteur im epistemischen Prozess als solcher nicht grundsätzlich gefährdet, wenn sich seine Rolle auch ändern kann. Die Metapher von digitalen Agenten verlegt dagegen die Akteursrolle in das Instrument selbst, das begrifflich genau in diesem Moment aufhört, eines zu sein. Aus diesem Grunde ist auch der Begriff der „Autonomie“ in Bezug auf technische Artefakte allenfalls metaphorisch zu verwenden. Nur ein Akteur kann genau genommen sich selbst die Regeln des Handelns auferlegen. Ein technisches Gerät dagegen, dem die Regeln seiner Operationen vom Konstrukteur, Software-Entwickler u. a. vorgegeben werden, ist grundsätzlich „heteronom“ bestimmt, auch wenn es im Rahmen der vorgegebenen Regeln weiter „lernt“, seinen zweckgerichteten Einsatz zu optimieren. Ein digitaler Agent wäre demgegenüber der Souverän, der dank seiner künstlichen Intelligenz die Mittel bestimmte. Dieses Bild nimmt die Vorstellung in Anspruch, dass der Prozess des Generierens von Wissen prinzipiell ein regelbestimmtes Verfahren ist, also einer Methodologie folgt, dass ein solches Verfahren somit auch von einem technischen Artefakt übernommen und ohne die menschlichen Schwächen (Müdigkeit, Lustlosigkeit, Ehrgeiz, Geldgier u. a.) sogar mit größerer Perfektion ausgeführt werden kann. Sollte dieses Bild von einem regelgeleiteten Verfahren wissenschaftlicher Erkenntnisproduktion jedoch unzutreffend sein, wäre auch der Gedanke der Übernahme eines solchen Verfahrens durch einen „Erkenntnisroboter“ irreführend.

Diagnosen und Beschreibungen von Veränderungsprozessen sind zentral für deren Gestaltung. Im Folgenden soll erörtert werden, ob und in welcher Hinsicht sich das Wissenschaftsverständnis durch KI- und Machine Learning-Verfahren verändert: Steht eine methodologische Revolution vor der Tür oder findet sich eine Kontinuität, freilich mit modifizierten Mitteln und Instrumenten?

Seit Jahrzehnten untersucht die arbeitswissenschaftliche Forschung die Auswirkungen des Digitalisierungstrends auf Beschäftigte und Arbeitsprozesse (siehe auch Mütze-Niewöhner und Nitsch 2020). Empirische Untersuchungen existieren bereits zu zahlreichen Funktionsbereichen (z. B. Produktion und Service) und Berufsgruppen (z. B. Elektro- und Metallberufe). Bislang liegen jedoch kaum empirische Befunde zu den Effekten der Digitalisierung auf die Arbeit von Forschenden vor. Entsprechend schwierig gestaltet sich die Aufgabe, mögliche gegenwärtige und zukünftige Auswirkungen des Digitalisierungstrends und dem Einsatz von KI auf die wissenschaftliche Arbeit und damit Beschäftigte abzuschätzen. Jedoch existieren zahlreiche Befunde zur thematisch verwandten Wissensarbeit. Es lässt sich daher davon ausgehen, dass einige dieser Befunde auf die wissenschaftliche Arbeit übertragbar sind.

Forschung an und mit Daten und auf der Basis von weitergehenden Informationen zur Wissensgewinnung ist allgegenwärtig, nicht erst seit Künstliche Intelligenz und Big Data (siehe dazu Kap. 1 und 2 in diesem Band) mediale Aufmerksamkeit und Forschungsetats treiben. Wird mit Daten geforscht, stehen rechtlich vor allem Belange der Privatheit und des Datenschutzes im weiteren Sinne im Raum, rechtlich abgesichert etwa durch Datenschutzrecht, Urheberrecht, Betriebs- und Geschäftsgeheimnisrecht oder in jüngerer Zeit auch Wettbewerbsrecht. Zudem treten – rechtlich bisher kaum erfasst – weitere Problembereiche wie die Qualitätssicherung, Archivierung und Zugänglichkeit von Datenbeständen, die Zugehörigkeit von Daten zu Forscher/innen bzw. deren Forschungsinstitutionen oder die Teilbarkeit und Übertragbarkeit von Rohdaten in das Sichtfeld regulatorischer Überlegungen. Eingebettet ist die Suche nach Informationen zudem fast immer in die Problematik von privaten und staatlichen Entscheidungen unter Unsicherheit, ihrer Herstellung und ihrer Kontrolle. Regulatorische Eingriffe in die Gewinnung, Nutzung und Verbreitung von Daten und des Einsatzes von Künstlicher Intelligenz in der Wissenschaft und Forschung können also aus vielerlei Perspektiven geboten sein.

Die Digitalisierung von Arbeitswelten erreicht alle Bereiche öffentlich oder privat finanzierter Forschung und Entwicklung. Insbesondere lassen neuartige Entwicklungen der künstlichen Intelligenz große Veränderungen im Alltag grundlagen- und anwendungsorientierter Forschung erwarten. Dennoch ist wissenschaftliche Forschung auch im Zeitalter von KI, Machine Learning und Big Data weiterhin auf den Menschen als Wissenschaftler/Wissenschaftlerin und Forscher/Forscherin angewiesen. Der Mensch bleibt daher als handelnder Akteur im Zentrum von Wissenschaft und Forschung. Ein etwaiger Ersatz des Menschen durch „starke KI“ ist dagegen nicht zu erwarten, da diese auf absehbare Zeit nicht erreichbar erscheint. KI-Systeme können daher zunächst eher als hilfreiche Werkzeuge in der Forschungspraxis verstanden werden: Auf den ersten Blick scheinen sie sich an technische Inventionen der Vergangenheit anzuschließen, wie die des Mikroskops oder des Fernrohrs, welche die wissenschaftliche Forschung und Erkenntnis bereits fundamental verändert haben. Ähnliches könnte auch für KI-getriebene Forschung erwartet werden. Allerdings führt die Selbstorganisationsfähigkeit von KI-Systemen im Modus des maschinellen Lernens (ML) zu einer Intransparenz von Forschungsprozessen, die eine Kontrolle, Validierung und Anerkennung abgeleiteter Aussagen, Modelle und Theorien erschweren oder gar unmöglich machen. Insofern kann der Wandel in der KI-getriebenen Forschung in diesem Modus sogar als disruptiv betrachtet werden. Ein allzu einfaches Werkzeug- und Instrumentenverständnis von KI führt hier also in die Irre; vielmehr sind ML-basierte KI-Systeme aufgrund ihrer verborgenen Dynamik und ihrer geringen Kontrollierbarkeit gewissermaßen als Instrumente zweiter Ordnung zu werten.