Maschinelles Lernen und das Recht auf Nichtwissen

Der Unterschied zwischen Kausalität und Korrelation ist grundlegend für die Bewertung der Leistungsfähigkeit von Maschinellem Lernen als Vorhersagewerkzeug.

Kausalität ist dadurch bestimmt, dass der Begriff der Ursache ausdrückt, dass die Wirkung nicht bloß zu der Ursache hinzukommt, sondern „[...] durch dieselbe gesetzt sei und aus ihr erfolg[t].“ [7]

Korrelation „[...] ist ein Maß für den statistischen Zusammenhang zwischen zwei Datensätzen. Unabhängige Variablen sind daher stets unkorreliert. Korrelation impliziert daher auch stochastische Abhängigkeit. Durch Korrelation wird die lineare Abhängigkeit zwischen zwei Variablen quantifiziert. [...] Korrelationen sind wichtig, weil ein existierender korrelativer Zusammenhang auch Hinweise geben kann, wie sich Variablen in der Zukunft verhalten werden. Damit können Korrelationen Indizien für eine Vorhersage liefern.“ [10]

Eine Maschine erkennt Korrelationen von Variablen großer Datensätze in einer Geschwindigkeit, die ein Mensch nicht erreichen kann. Eine Korrelation zwischen zwei Variablen bedeutet jedoch nicht, dass der Wert einer Variablen ursächlich für den Wert der anderen ist. Sie liefert Hinweise auf das eventuelle Vorhandensein einer Kausalität, die Beziehung der beiden Variablen kann aber auch eine Koinzidenz sein, der keinerlei ursächlicher Zusammenhang zu Grunde liegt.

Hierzu ein Beispiel [20]: Prof. Steinebach und sein Team vom Fraunhofer SIT trainierten ein System des Maschinellen Lernens - unter anderem mit Bildern von Personen in Badesituationen. Zusammen mit den Bildern wurde dem System als ein Merkmal das Geschlecht der Menschen auf den Bildern eingegeben (supervised learning). Dem System wurde dann ein neues Bild mit einer Frau in Badekleidung präsentiert und auf Basis des Trainings erfolgte die Ausgabe, dass es sich um einen Mann handelte. Prof. Steinebach suchte den Grund des Fehllernens und fand heraus, dass die Bierdose, die die Frau in der Hand hielt, der Grund für die fehlerhafte Zuordnung des Geschlechts der Frau war. Die Variable „Geschlecht“ korrelierte offenbar in ihrem Wert „Mann“ mit der Variable „Bierdose in der Hand“. Erst als die Dose unkenntlich gemacht wurde, gab das System das korrekte Geschlecht „Frau“ aus. Im Referenzdatenset waren Bierdosen offenbar ausschließlich in der Hand von Männern aufgetaucht. Es gab also eine Korrelation zwischen Bierdose in der Hand am Wasser und Mann, aber das ist natürlich keine Kausalität. Wir Menschen wissen, dass aus „Bierdose in der Hand am Wasser“ eben nicht „Geschlecht Mann“ folgt. Die Korrelation sagt allerdings vermutlich etwas über gesellschaftliche Konventionen aus: Es scheint für einen Mann weniger ein Problem darzustellen, mit einer Bierdose am Pool, Schwimmbad oder Strand zu sein (oder fotografiert zu werden?) als für eine Frau.

Maschinelles Lernen ist ein neues Werkzeug für Vorhersagen, das sich von statistischen Auswertungen und Fortschreibungen unterscheidet. Grob gesagt besteht der Unterschied zwischen Statistik und Maschinellem Lernen in der Prognostik darin, dass Statistik dazu geeignet ist, Inferenzen bei vorgegebenen Modellen zu finden, während das Maschinelle Lernen auf „empirische Weise“ selbst Vorhersagemodelle konstruiert. In anderen Worten: Wenn statistisch ausgewertet wird, dann werden Zusammenhänge (Korrelationen) gefunden, die zwischen den Daten bestehen. Wenn Maschinelles Lernen angewendet wird, dann vermag das trainierte System für unbekannte Eingabedaten – solange diese eine gewisse Ähnlichkeit mit den Trainingsdaten haben – Zielwerte auszugeben.

Im Folgenden wird das überwachte Maschinelle Lernen betrachtet. Hier gibt es Trainingsdaten, bei denen der Mensch die Eingangs-Parameter und das Ergebnis kennt und diese der Maschine im Lernprozess vorgibt. Der Maschine wird während der Lernphase diese „Grundwahrheit“ (ground truth) präsentiert und sie passt das Modell (das ist der Algorithmus, der durch mathematische Operationen entsteht bzw. „das Wissen, das gelernt wird“) des Systems mit jedem präsentierten Paar Eingangsdatum und Ergebnis an. Nachdem das Modell erstellt wurde, können in dieses (bisher) unbekannte Daten eingegeben werden und das System berechnet das Ergebnis, also die „Vorhersage“.

Grob teilt man die verschiedenen Verfahren des überwachten Lernens in die Kategorien Klassifikation und Regression ein. Bei der Klassifikation soll ein Modell den Eingabedaten einen Zielwert aus einer endlichen diskreten Menge zuordnen. Ein Beispiel wäre die Ziffernerkennung der Postleitzahlen auf Briefen. Bei der Regression werden stetige Wertverläufe vorhergesagt, z. B. die Temperatur bei der Wettervorhersage.

Für statistische Methoden muss ein Modell ausgewählt werden, das Domänenwissen über die Daten einbezieht. Beim Maschinellen Lernen kann die Domänen-agnostische Konstruktion eines Modells von der „Essenz“ des modellierten Systems abweichen. Dies ist insbesondere dann der Fall, wenn wenige Trainingsdaten vorhanden sind oder wenn diese einen Bias enthalten. Die Maschine findet dann nicht valide Prädikatoren - vergleiche obiges Beispiel: Bierdose in der Hand am Wasser bedeutet Mann. Es gibt Schnittmengen zwischen den beiden Ansätzen, die sich nutzen lassen. Mittels statistischer Analyse können beispielsweise Hinweise gefunden werden, was ein guter Prädiktor sein könnte.

In der Statistik dienen Variablen (Merkmale) dem Finden von (erklärbaren) Wahrscheinlichkeitswerten, während sie beim Maschinellen Lernen vielfach in Richtung Passfähigkeit für Vorhersagen ausgewählt werden. Zudem beinhalten Systeme des Maschinellen Lernens Dutzende, manchmal sogar Hunderte Variablen (Merkmale) - viel mehr als herkömmliche statistische Modelle. In der Anwendung von Maschinellem Lernen als Vorhersagewerkzeug ist das Ziel in der Regel nicht, die Bedeutung einzelner Merkmale möglichst präzise zu halten, sondern vielmehr die Vorhersagekraft eines Modells hochzutreiben.

Die Erkennungsleistungen und Prognosen durch Maschinelles Lernen, insbesondere durch Deep Learning, können den Menschen in vielen Aufgaben unterstützen. Sie können sogar in vielen kognitiven Bereichen über die menschliche Leistungsfähigkeit hinausgehen. Ein Beispiel für eine herausragende Unterstützungsleistung in der medizinischen Diagnostik ist die Früherkennung von Herz- und Lungenkrankheiten. [8] Substanzielle Entlastungen des Menschen finden sich beispielsweise durch Anwendungen des Maschinellen Lernens in der Bild- und Spracherkennung, bei Web-Suchen, in der Betrugserkennung, bei E-Mail- bzw. Spam-Filterung und bei Kreditwürdigkeitsprüfungen. [18] Beispiele für Leistungen durch Maschinelles Lernen, die diejenigen des Menschen übertreffen, sind belegt bezüglich des Go-Spiels, selbstfahrenden Autos und Bildklassifikation. [18]

Beim Einsatz von Maschinellem Lernen gibt es auch Grenzen und Probleme, gerade auch im Themenfeld der Vorhersagbarkeit. Vier davon stehen in besonders engem Zusammenhang mit der hier behandelten Fragestellung:

Nach dieser informatischen Betrachtung von ML als Vorhersagetool folgt nun eine Darstellung der rechtlichen Lage bezüglich des Rechts auf Nichtwissen und ihrer philosophischen Bewertung, um den Problemraum aufspannen zu können.

Das Recht auf Nichtwissen basiert in der Bundesrepublik Deutschland wesentlich auf Art. 2 Abs. 1 GG i. V. m. Art. 1 Abs. 1 GG. Dieser Artikel (Art. 2 Abs. 1 GG) enthält ein Recht auf die freie Entfaltung der Persönlichkeit, aus welchem zum einen die allgemeine Handlungsfreiheit abgeleitet wird und zum anderen (i. V. m. Art. 1 Abs. 1 GG) das allgemeine Persönlichkeitsrecht. Dieses wurde wiederum zum Recht auf informationelle Selbstbestimmung konkretisiert.

Das Volkszählungsurteil vom 15.12.1983 des Bundesverfassungsgerichtes, durch das die informationelle Selbstbestimmung als Grundrecht anerkannt wurde, besagt, dass „[d]iese Befugnis [der Selbstbestimmung] [...] unter den heutigen und künftigen Bedingungen der automatischen Datenverarbeitung in besonderem Maße des Schutzes [bedarf]. Sie ist vor allem deshalb gefährdet, weil bei Entscheidungsprozessen nicht mehr wie früher auf manuell zusammengetragene Karteien und Akten zurückgegriffen werden muß, vielmehr heute mit Hilfe der automatischen Datenverarbeitung Einzelangaben über persönliche oder sachliche Verhältnisse einer bestimmten oder bestimmbaren Person (personenbezogene Daten [vgl. §2 Abs. 1 BDSG]) technisch gesehen unbegrenzt speicherbar und jederzeit ohne Rücksicht auf Entfernungen in Sekundenschnelle abrufbar sind. Sie können darüber hinaus – vor allem beim Aufbau integrierter Informationssysteme – mit anderen Datensammlungen zu einem teilweise oder weitgehend vollständigen Persönlichkeitsbild zusammengefügt werden, ohne daß der Betroffene dessen Richtigkeit und Verwendung zureichend kontrollieren kann.“ [5]

Im allgemeinen Persönlichkeitsrecht ist das Recht auf Nichtwissen als ,,negative Variante des Rechts auf informationelle Selbstbestimmung“ [16] umfasst und bezieht sich insbesondere auf Informationen zur genetischen Veranlagung einer Person. [2]

Der Zweck des am 1. Februar 2010 in Kraft getretenen Gendiagnostikgesetzes ist die Achtung und der Schutz der Würde des Menschen, ebenso wie die Wahrung des Rechts auf informationelle Selbstbestimmung. Der BGH führt hierzu aus, dass die genetische Konstitution die Persönlichkeit des Einzelnen prägt, wesentliche Rahmenbedingungen seiner Existenz bestimmt und Informationen hierzu Aussagekraft für die persönliche Zukunft einer Person haben: „Die Kenntnis von Erbanlagen, insbesondere genetisch bedingten Krankheitsanlagen, kann maßgeblichen Einfluss auf die Lebensplanung und Lebensführung einer Person haben und berührt deshalb unmittelbar ihr in Art. 2 Abs. 1 GG gewährleistetes Selbstbestimmungsrecht.“ [3]

Ein Recht auf Nichtwissen ist in Deutschland bisher überwiegend in Privatrechtsverhältnissen bedeutsam und fokussiert sich auf die Genomanalyse, dem Verfahren der Analyse des Erbguts eines Menschen. Im nächsten Abschnitt wird beispielhaft gezeigt, dass auch im philosophischen Kontext dieses Recht bereits gefordert wurde.

Ein Recht auf Nichtwissen hat zweierlei Funktion: Es dient als Schutz des vorhandenen Wissens sowie einer gewollten Aufrechterhaltung eines Zustands des Nichtwissens. Dieses Recht ist ein Anrecht auf ein willentliches Nicht-Wissen-Wollen.

Hans Jonas zielte 1985 im Rahmen einer verantwortungsethischen Betrachtung erstmals auf eine Forderung auf ein Recht auf Nichtwissen, um die Abwehr von identitätsstörenden Informationen zu ermöglichen.

„Niemals darf einem ganzen Dasein das Recht zu jener Ignoranz versagt werden, die eine Bedingung der Möglichkeit authentischer Tat, d. h. der Freiheit überhaupt ist; oder: Achte das Recht jedes Menschen, seinen eigenen Weg zu finden und eine Überraschung für sich selbst zu sein.“ [11, S. 190]

Jonas zeigt auf, dass dieses „Selbst-Werden“ verhindert werden kann, wenn verfügbares Wissen ungewollt gewusst werden muss. Durch diese identitäre Bewegung desjenigen Lebenskonzepts, kann die freie Entfaltung der jeweiligen Persönlichkeit eingeschränkt und manipuliert werden. Nach Hans Jonas ist diese

„Unwissenheit allerseits [...] eine Vorbedingung der Freiheit.“ [11, S. 188]

Entscheidet man sich explizit für ein Wissen-Wollen, liegt dies in der Verantwortung jedes Einzelnen und gehört zu seinem Weg des Selbst-Werdens. Diese Selbstverantwortung ist die eines mündigen, freien Menschen. Die Unwissenheit ist selbst gewollt. Man will etwas nicht wissen, man erkennt und willigt in die eigene Unwissenheit ein – nicht aus Mangel an Wissen, sondern aus dem Bewusstsein heraus, dass Selbsterkenntnis ein nachhaltigeres Konzept sein kann, als von außen auferlegte Konventionen zu übernehmen. Mit der Forderung eines Rechts auf Nichtwissen geht es um die Aufrechterhaltung des Möglichkeitsraums einer offenen, unbekannten und selbstbestimmten Zukunft.

Um mögliche Auswirkungen des Wissen-Müssen für das Individuum und die Gesellschaft aufzuzeigen, wird im kommenden Abschnitt ein fiktives Szenario dargestellt.

Im Folgenden werden im Gegensatz zu unserer Wirklichkeit - in der Algorithmen noch nicht komplex genug sind, um wahre Aussagen zu treffen - beispielhaft zwei mögliche Szenarien vorgestellt, um auf den Willen und die Freiheit einzugehen. In beiden Szenarien können Algorithmen wahre, fehlerfreie Aussagen treffen.

Im ersten Szenario würde der Algorithmus voraussagen, dass ein Mensch in fünf Jahren ein Haus baut. Was würde dies nun für den Menschen bedeuten? Kann er überhaupt noch eine freie und willentliche Entscheidung treffen? Kann er sich entscheiden sein Haus nicht in fünf Jahren zu bauen? In unserem fiktiven Szenario wäre die Antwort ganz klar „Nein“. Dieser Mensch kann sich nicht mehr willentlich entscheiden, denn Maschinen treffen immer fehlerfreie Aussagen. Diese Wahlmöglichkeit wäre ihm verwehrt und der Wille würde keine Rolle spielen, denn die Vorhersage ist gesetzt.

Stellen wir uns nun Szenario 2 vor, in welchem Algorithmen fehlerfreie Vorhersagen treffen können und zugleich ein Staat utilitaristische Ziele zum Nutzen aller durchsetzen würde. In diesem Fall wäre es für das Allgemeinwohl am besten, wenn ein Mensch sein Haus in fünf Jahren baut. Was würde dies nun für diesen Menschen bedeuten? Es müsste bedeuten, dass dieser Staat diesen Menschen zwingt, sein Haus in fünf Jahren zu bauen, weil es für das Allgemeinwohl das prognostiziert Sinnvollste wäre. Wenn es diesen fiktiven Raum gäbe, in dem Maschinen Aussagen in die Zukunft treffen könnten und ein Staat das Allgemeinwohl über alles stellt, dann könnte eine totalitäre Herrschaftsform sich auf die technischen Möglichkeiten berufen und den menschlichen Willen entwerten.

Das Leben, wie wir es bisher kennen, mit seinen freien Entscheidungen, wäre in solchen Szenarien nicht gegeben. Würden Bürgerinnen und Bürger „Wissen-Müssen“, wäre eine wesentliche Bedingung für Freiheit nicht gegeben, denn Freiheit schließt Zwang aus. Und ohne die Wahlmöglichkeit eines Rechts auf Nichtwissen wäre eine freie Willensentscheidung nicht mehr gegeben. Dies steht aber dem aufklärerischen Ideal entgegen, dass wir wissentlich unsere Entscheidungen treffen (können).

Um diesen Konflikt zu lösen, wird im folgenden Abschnitt aufgezeigt, dass bestimmte Formen des Nichtwissens durchaus wünschenswert und wollbar sind. Dafür wird sich im folgenden beispielhaft einer systematischen Behandlung der Begriffsstruktur von Thomas von Aquin beholfen, um die Voraussetzungen einer freiwilligen Handlung näher zu betrachten.

Friedo Ricken hat in seinem Buch „Allgemeine Ethik“ [23] eine theologische Abhandlung von Thomas von Aquin aufgegriffen. Obwohl es sich hier bei Thomas von Aquin um keine normativ verfasste Abhandlung handelt, ist diese systematische Behandlung der Begriffsstruktur des Verhältnisses von Nichtwissen und Wollen bis heute eine der differenziertesten. Es geht in dieser Darstellung darum, wie sich Nichtwissen zum Wollen bzw. zur Freiwilligkeit verhält. Die Frage ist, ob Nichtwissen in irgendeiner Weise abhängig vom Wollen ist. Diese Fragestellung dient dazu, die Freiwilligkeit bzw. Unfreiwilligkeit einer Handlung festzustellen. Thomas von Aquin hat zu dem Verhältnis von Nichtwissen und Wollen drei Möglichkeiten herausgearbeitet. Die Freiwilligkeit einer Handlung ist noch nicht entschieden, sobald jemand etwas will – er muss dies auch wissentlich tun.

Am Beispiel eines Jägers werden drei Möglichkeiten von Nichtwissen und Wollen aufgezeigt. Die Geschichte, die aufgezeigt wird, handelt von einem Jäger, der bei der nächstmöglichen Gelegenheit seinen Feind erschießen will.

Die nachfolgenden drei Möglichkeiten zeigen eine systematische Differenzierung von Nichtwissen und Wollen:

Warum ist Freiwilligkeit relevant für ein Recht auf Nichtwissen? Eine Handlung ist dann freiwillig, wenn sie absichtlich, mit Wissen und Willen durchgeführt wird. Das geforderte Recht auf Nichtwissen steht nicht in Zusammenhang mit verdrängtem Wissen. Unbewusstes Nichtwissen könnte z. B. dafür genutzt werden, sich im Nachhinein mit der Unwissenheit zu entschuldigen, um sich der Verantwortung der Folgen zu entziehen. In diesem Beitrag wird ein reflektiertes, aufgeklärtes Recht auf Nichtwissen betrachtet. Es handelt sich hier um ein ausdrückliches Nicht-Wissen-Wollen zum Zwecke der Unterbindung von unüberschaubaren und überschaubaren Auswirkungen. Die Möglichkeit über Kenntnis der gezogenen Schlüsse und Vorhersagen über einen selbst, muss demnach immer ein bloßes Angebot bleiben.

Willensfreiheit ist eine Vorbedingung für Handlungsfreiheit, welche in unserem Grundgesetz von Artikel 2 Abs. 1, der freien Entfaltung der Persönlichkeit, abgeleitet wird. In diesem Beitrag wird eine Unterscheidung zwischen verdrängtem Wissen und Unwissenheit als Folge des Willens getroffen. Es handelt sich hier um ein ausdrückliches Nicht-Wissen-Wollen. Denn ein Überschuss an Wissen kann die individuellen Entfaltungsmöglichkeiten einschränken und somit ein Individuum an einer authentischen Lebensgestaltung hindern. Die hier verstandene Unwissenheit ist gewollt – man will etwas nicht wissen und man erkennt und willigt in die eigene, in diese Unwissenheit ein. Die Entscheidung, ein aufgeklärtes Recht auf Nichtwissen in Anspruch zu nehmen, kann zu einer bewussten Gestaltung der Zukunft anleiten und befreit von extern Übernommenem. Ein aufgeklärtes Nichtwissen ist stets begleitet vom Bewusstsein des eigenen Nichtwissens und somit eine beabsichtigte Entscheidung.

Im Zusammenhang mit der Entscheidungsfreiheit führt der BGH aus, dass die „[i]ndividuelle Selbstbestimmung [voraussetzt] – auch unter den Bedingungen moderner Informationsverarbeitungstechnologien – [...], daß [sic.] dem Einzelnen Entscheidungsfreiheit über vorzunehmende oder zu unterlassende Handlungen einschließlich der Möglichkeit gegeben ist, sich auch entsprechend dieser Entscheidung tatsächlich zu verhalten. Wer nicht mit hinreichender Sicherheit überschauen kann, welche ihn betreffende [sic.] Informationen in bestimmten Bereichen seiner sozialen Umwelt bekannt sind [...], kann in seiner Freiheit wesentlich gehemmt werden, aus eigener Selbstbestimmung zu planen oder zu entscheiden.“ [4]

Ein Recht auf Nichtwissen zielt auf den Schutz eines jeden Einzelnen, Wissen über seine Person, anderen oder der Person selbst zugänglich zu machen, ohne dass dies von der Person gewollt wurde. Mit dem Recht auf Nichtwissen im digitalen Kontext wird eine situationsrelevante Wahl-, Entscheidungs- und Handlungsfreiheit gefordert. Eine informierte Einwilligung ist immer dann gegeben, wenn die Entscheidung eines Menschen absichtlich, mit Verständnis und frei von kontrollierendem Einfluss anderer erfolgt.

In seinem Buch „Vom Nutzen des Nichtwissens“ schreibt Peter Wehling, dass „Autonomie [...] (mindestens) ebenso gut darin bestehen [kann], bewusst mit Ungewissheit und Offenheit zu leben, wie darin, das eigene Leben auf der Grundlage und nach Maßgabe tatsächlicher oder vermeintlicher Gewissheiten [...] zu planen.“ [24]

Der Wunsch auf eine offene, unbekannte Zukunft kann zu einer bewussten Gestaltung der Zukunft anleiten. Das hier geforderte Recht ist nicht mit der Aufklärung in Uneinigkeit, denn der bekannte und Gesellschaft prägende Leitspruchs Kants zur Aufklärung lautet: „Aufklärung ist der Ausgang des Menschen aus seiner selbst verschuldeten Unmündigkeit.“ [12]

Selbstverschuldet bedeutet, dass die Fähigkeit (zu denken) vorhanden ist, aber man tut es aus Bequemlichkeit, Anpassung, Feigheit etc., nicht. Unmündigkeit ist die Unfähigkeit sich seines eigenen Verstandes, ohne Anleitung von außen, zu bedienen. Was braucht man laut Kant nun zur Aufklärung? Verstand um zwischen wahr und falsch zu unterscheiden. Mut sich seines Verstandes zu bedienen. Freiheit als Voraussetzung dies zu dürfen. Und Vernunft um Urteile zu fällen und die Wahrheit zu erkennen.  [22]

Der Ausgang aus dieser selbstverschuldeten Unmündigkeit, sei nun im stetigen Bestreben zu finden „[...] seine [...] Erkenntnisse zu erweitern, von Irrtümern zu reinigen [...].“ [12] In der menschlichen Wahrnehmung oft unbeachtet bleibt dabei die Einsicht, dass der Verzicht auf lebenskonzept- oder identitätsstörende Informationen, Resultat dessen sein kann, „[...] sich seines Verstandes ohne Leitung eines anderen zu bedienen.“ [12] Ein Überschuss an Wissen kann das Selbst-Werden eines Menschen einschränken und die Abwehr von identitätsstörenden Informationen ist der Grund, der diese Wissensabwehr durchaus rational erscheinen lässt.

Um ein Recht auf Nichtwissen anzuerkennen, muss (natürlich) ein gewisses Wissen vorausgesetzt werden. Im Unterschied zu wirklich propositionalem Wissen unterscheidet sich das aufgeklärte Recht auf Nichtwissen dahingehend, dass dieses Recht ein Wissen über mögliche Auswirkungen dessen verlangt, welche einen gewollt zu einer Entscheidung bzw. Handlung bewegen. Dieses Nicht-Wissen-Wollen ist mehr als lediglich die Abwesenheit von Wissen, diese Entscheidung setzt Wissen über das zu Entscheidbare voraus. Diese Schwierigkeit bleibt bei der Ausübung eines Rechts auf Nichtwissen (im digitalen Kontext) bestehen.

Dass das Recht auf Nichtwissen Funktionalitäten haben kann, wird im folgenden vertieft.