Privatsphärefreundliches maschinelles Lernen

Es gibt zahlreiche Algorithmen, die alle unter dem Begriff ML zusammengefasst werden können. Sie lassen sich dabei in die drei Überkategorien überwachtes Lernen, unüberwachtes Lernen und bestärkendes Lernen (engl. supervised, unsupervised und reinforcement learning) einteilen [2].

Mit der ersten Kategorie, dem überwachten Lernen, können Klassifikationsprobleme (z. B. Mustererkennung, Prädiktion oder Ausreißererkennung) sowie Regressionsprobleme (Vorhersage von Werten) gelöst werden [2]. Algorithmen, die dabei zum Einsatz kommen, müssen auf eine Dateneingabe \(X\) eine (möglichst korrekte) Ausgabe \(Y\) liefern, die in der Regel wahrscheinlichkeitsbasiert ist. ML-Algorithmen des überwachten Lernens erlernen diese Abbildung von \(X\) zu \(Y\) in einer Trainingsphase. Im überwachten Lernen sind die in dieser Phase genutzten Daten stets mit ihrem jeweiligen Zielwert \(y\in Y\) annotiert. Ein klassisches Anwendungsbeispiel ist die Entwicklung von Risikovorhersagemodellen (sog. Risikoscores) zur Abschätzung des Risikos für unerwünschte Ereignisse (z. B. für eine Herz-Kreislauf-Erkrankung) anhand von Daten in medizinischen Registern.

In der Kategorie des unüberwachten Lernens hingegen sind die Ausgabewerte \(Y\) zu den Trainingsdaten nicht von vornherein bekannt [2]. Ein klassisches Anwendungsbeispiel sind Clusteranalysen, die Regelmäßigkeiten in den Eingabewerten erkennen und ähnliche Datensätze in Clustern zusammenfassen. Die Cluster werden dabei dynamisch in Abhängigkeit von der jeweiligen Datenbeschaffenheit erstellt. Damit finden Methoden des unüberwachten Lernens z. B. für Genomanalysen oder Analysen zu Schnittbildern Anwendung. Weitere mögliche Anwendungen für unüberwachtes Lernen sind in der Dimensionalitätsreduktion zu finden, die häufig der Auswahl relevanter Parameter für andere ML-Verfahren dient.

Die dritte Kategorie, bestärkendes Lernen, ermöglicht das Lernen von Verhaltensweisen in Form von Aktionsabfolgen [2]. Ein beliebtes Anwendungsfeld sind Brettspiele. Charakteristisch für die Praktikabilität des bestärkenden Lernens ist hierbei, dass nicht durch jede einzelne Aktion (bzw. durch jeden Spielzug) unmittelbar ein positiver Effekt eintreten muss, sondern die langfristigen Strategien der Akteure den Spielausgang bestimmen. In der Trainingsphase erlernt ein ML-Algorithmus hierbei durch das wiederholte, experimentelle Anwenden verschiedener Aktionssequenzen und die gleichzeitige Beobachtung der jeweiligen Spielausgänge, welche Strategien am wirksamsten sind. Obwohl das bestärkende Lernen in der Medizin noch wenig Anwendung findet, sind zahlreiche Anwendungsbereiche denkbar. Beispielsweise könnten Abläufe in robotikbasierten Medizinprodukten optimiert werden, indem exaktere Bewegungen durch bestärkendes Lernen ermöglicht werden.

Neben diesen drei Grundparadigmen des ML existieren Mischformen, kleinere Kategorien und Unterkategorien, die den Umfang dieses Beitrags übersteigen. Für die Umsetzung der jeweiligen Lernformen stehen eine Vielzahl an Verfahren und Algorithmen zur Verfügung, die oft auch für mehrere Kategorien eingesetzt werden können.

In den derzeit gängigen Anwendungen des bestärkenden Lernens ist eine Gefährdung der Privatsphäre Betroffener nicht gegeben, da hier keine potentiell personenbezogenen Trainingsdaten benötigt werden. Dieser Artikel konzentriert sich daher auf überwachtes und unüberwachtes Lernen.

Grundsätzlich lassen sich beim Einsatz von ML-Verfahren zwei Phasen unterscheiden. Während der Lern- oder auch Trainingsphase wird ein Modell auf existierenden Trainingsdaten trainiert, um das gewünschte Vorhersageverhalten zu erlernen. In der Inferenzphase wird ein so trainiertes Modell dazu genutzt, das erlernte Verhalten auf von den Trainingsdaten abweichende Daten anzuwenden.

Zum Training wird ein Trainingsdatensatz \(x=(x^{(1)},\dots,x^{(l)})\) verwendet, der aus \(l\) Datenpunkten \(x^{(i)}\) besteht. Ein Teil dieses Datensatzes (mindestens 10%, je nach Datenbeschaffenheit auch bis zu 50%) wird nicht für das Training verwendet, sondern als separater Testdatensatz vorgehalten. Die Testdaten dienen dazu, die Performancesteigerung zwischen Trainingsiterationen zu quantifizieren. Sie sind außerdem wichtig, um eine etwaige Überanpassung an die Trainingsdaten zu erkennen bzw. zu verhindern (siehe Abschnitt „Varianz, Unter- und Überanpassung“). Anstatt die Teilung in Trainings- und Testdaten einmalig vorzunehmen, kann die Partitionierung auch rotieren, beispielsweise im Rahmen eines Kreuzvalidierungsverfahrens [2].

Jeder der Datenpunkte \(x^{(i)}=(x_{1}^{(i)},\dots,x_{n}^{(i)})\) wird durch \(n\) Merkmale (engl. features) beschrieben. Hierbei kann es sich je nach Szenario um verschiedene Merkmale, wie die Medikamentdosierung während der Behandlung von Patientinnen und Patienten, die einzelnen Pixel einer medizinischen Schnittbildgebung oder auch die Freitextbeschreibungen von behandelnden Ärztinnen und Ärzten zu klinischen Beschwerden, handeln. Die Gesamtheit aller möglichen Merkmale bildet den Merkmalsraum (engl. feature space).

Ein Beispiel zur Verdeutlichung: Es soll ein Modell entwickelt werden, das das Risiko einer abwendbaren Amputation für Patientinnen und Patienten mit peripherer arterieller Verschlusskrankheit (PAVK, die sog. „Schaufensterkrankheit“) vorhersagt. Hierfür eignet sich der Einsatz eines überwachten Lernverfahrens. In der Trainingsphase wird ein Trainingsdatensatz genutzt, der aus einer Vielzahl von Datenpunkten besteht, die jeweils eine Patientin oder einen Patienten mit einer oder mehreren Behandlungen beschreiben. Jeder dieser Datenpunkte besteht aus den gleichen Merkmalen, wie dem Patientenalter oder Informationen über Nebenerkrankungen sowie der Annotation mit dem Zielwert – in diesem Beispiel also der Angabe, ob eine Amputation erfolgte oder nicht. Ein mit diesen Daten trainiertes Modell kann anschließend in der Inferenzphase dazu genutzt werden, für neue Datenpunkte vorherzusagen, wie hoch das Risiko für eine notwendige Amputation in der Zukunft ist.

Die Auswahl geeigneter Trainingsdaten und Verfahren ist jedoch keineswegs trivial. Ungünstige Entscheidungen können die Ursache sogenannter Verzerrung bilden. Verzerrung (manchmal auch systematische Abweichung oder systematischer Fehler, engl. bias) beschreibt die systematische Abweichung eines durch ein ML-Verfahren vorhergesagten Wertes vom tatsächlichen Wert. Eines der bekanntesten Beispiele für Verzerrungen in ML-Verfahren wurde 2016 in dem Artikel Machine Bias der Organisation ProPublica veröffentlicht, in dem über Bias in der zur Beurteilung von Straftätern verwendeten Software COMPAS berichtet wurde [4]. Der in COMPAS eingesetzte Algorithmus besaß signifikant unterschiedliche Falsch-Positiv-Fehlerraten für das erneute Begehen von Straftaten für verschiedene Bevölkerungsgruppen. Die Wahrscheinlichkeit eines Rückfalls für afroamerikanische Straftäter wurde im Gegensatz zu Mitgliedern anderer Bevölkerungsgruppen systematisch überschätzt.

Verzerrung kann aus vielfältigen Gründen auftreten [25]. Beispiele für häufig auftretende Verzerrungen sind:

Auch bei der Anwendung von ML-Verfahren im medizinischen Bereich besteht die Gefahr verschiedenster Verzerrungen [13]. Beispielsweise werden für Patientinnen und Patienten mit einem geringeren sozioökonomischen Status weniger diagnostische Tests für chronische Erkrankungen durchgeführt. Dies kann bei der Nutzung von Datensätzen zu einer privilegierten oder unterprivilegierten Kohorte die Generalisierbarkeit auf die gesamte Zielpopulation einschränken.

Um Verzerrungen entgegenzuwirken, rückt der Begriff der Fairness zunehmend in den Fokus von Forschung und Praxis. Dies bezeichnet vor allem die Eigenschaft von ML-Algorithmen, niemanden zu diskrimieren. Da Diskriminierungen in vielen Bereichen des Lebens an der Tagesordnung sind, schlägt sich dies auch oft in den für das Training von ML-Algorithmen verwendeten Datensätzen nieder. Das Erreichen von Fairness ist daher nicht trivial und Forschungsgegenstand von Ethical AI.

Es existieren zahlreiche Frameworks wie etwa AI Fairness 360 von IBM oder Aequitas [29], die Modellentwicklerinnen und -entwickler dabei unterstützen können, ihre Algorithmen unter verschiedenen Fairness-Aspekten zu beleuchten und zu verbessern. Eine umfassende Übersicht über Fairness in ML bietet [25].

Zusätzlich zur Verzerrung kann auch die Varianz eines Modells betrachtet werden. Varianz kann als die Empfindlichkeit des Modells gegenüber kleinen Schwankungen in den Trainingsdaten angesehen werden. Im Bereich des überwachten Lernens tritt das sogenannte Verzerrungs-Varianz-Dilemma auf. Verfahren können entweder die Verzerrung oder die Varianz minimieren, aber nicht beides.

In der Praxis führt dieses Dilemma dazu, dass es beim Training von Modellen zu Unteranpassung oder Überanpassung kommen kann. Unteranpassung (engl. underfitting) beschreibt ein Modell mit großer Verzerrung, dessen Vorhersagen den echten statistischen Zusammenhang nicht abbilden. Überanpassung (engl. overfitting) beschreibt ein Modell mit großer Varianz, das zu sehr auf den Trainingsdaten beruht und beispielsweise vorliegende Messfehler oder Rauschen mit einbezieht. Eine Visualisierung dieser Konzepte für Regressions- und Klassifikationsprobleme ist in Abb. 1 dargestellt.

Bereits die Identifikation von problematischen Entscheidungen während der Entwicklung und Kalibrierung eines ML-Verfahrens vor oder während der Trainingsphase, die sich etwa in Verzerrungen, Unter- oder Überanpassungen manifestieren, ist häufig schwierig. Dies liegt insbesondere darin begründet, dass die Funktionsweisen vieler ML-Verfahren für Menschen nicht direkt verständlich sind. Erklärbares maschinelles Lernen (engl. interpretable or explainable ML/AI, XML/XAI) beschreibt Methoden, die die von einem ML-Verfahren getroffenen Vorhersagen für menschliche Benutzer nachvollziehbar machen [10]. Erklärbarkeit ist keine notwendige Eigenschaft, falls der Einsatz von fehlerhaften ML-Modellen keine signifikanten Auswirkungen im Einsatzkontext hat. Gerade beim Einsatz neuer Verfahren in kritischen Kontexten kann die Nachvollziehbarkeit von Entscheidungen eines Modells jedoch essenziell sein, um das Vertrauen in die Technik im Sinne einer Qualitätssicherung zu stärken oder ihren Einsatz überhaupt erst zu ermöglichen. Die Erklärbarkeit kann auch dabei unterstützen, Verzerrungen in Modellen aufzudecken und so zwischen einfacher Korrelation und Kausalität unterscheiden zu können. Ein Beispiel für eine ungewollte Korrelation, die durch den Einsatz von Erklärverfahren aufgedeckt werden konnte, ist in Abb. 2 abgebildet. Die Nachvollziehbarkeit kann damit insgesamt zu robusteren Modellen führen, aber auch ein tieferes Verständnis für bisher unbekannte Zusammenhänge fördern [16]. Dieses Problemfeld ist auch im Hinblick auf die in der DSGVO geforderte verständliche Erklärung der Entscheidungsfindung in automatisierten Entscheidungsprozessen (Artikel 13-15, 22 der DSGVO) relevant [17].

Die Verfahren des erklärbaren maschinellen Lernens lassen sich auf verschiedene Weisen kategorisieren [26]. Lokale Erklärungsmodelle bieten Erklärungen dafür, wie ein Modell eine Vorhersage für einen spezifischen Datensatz getroffen hat, während globale Erklärungsmodelle Erklärungen dafür liefern, wie ein Modell insgesamt Entscheidungen trifft oder zumindest welche Auswirkungen bestimmte Teile eines Modells (beispielsweise einzelne Gewichte) hervorrufen. Es kann weiterhin zwischen intrinsisch erklärbaren Verfahren und Post-hoc-Erklärungen unterschieden werden. Intrinsisch erklärbare Verfahren sind in ihrer Struktur so einfach, dass sie als menschlich interpretierbar angesehen werden. Beispiele hierfür sind Entscheidungsbäume oder einfache lineare Regressionen. Post-hoc-Erklärungen sind Methoden, die nach der Trainingsphase eines Modells angewendet werden und etwa die Wichtigkeit einzelner Eingangsfeatures bewerten können. Eine weitere Möglichkeit der Differenzierung besteht zwischen modellspezifischen und modellagnostischen Verfahren – je nachdem, ob Erklärungen nur für bestimmte Arten von Modellen generiert werden können oder ein generischer Ansatz verfolgt wird.

Beispiele für Verfahren im Bereich des erklärbaren maschinellen Lernens sind Local Interpretable Model-agnostic Explanations (LIME) [28], Shapley Additive Explanations (SHAP) [23], Gradient-weighted Class Activation Mapping (Grad-CAM) [31] und Layer-Wise Relevance Propagation (LRP) [5]. Eine Übersicht über den aktuellen Stand der Erklärbarkeit von ML-Verfahren und auch beispielhafte Anwendungsfälle aus dem medizinischen Bereich lassen sich in [20] finden.

Lineare Regressionsverfahren dienen der überwachten Regression von Trainingsdaten. Die Verfahren wählen dabei Linearparameter \(\beta\), sodass die für einen Trainingsdatensatz \(x_{i}=(x_{1}^{(i)},\dots,x_{n}^{(i)})\) beobachteten Werte \(y_{i}\) und die durch die Linearfunktion berechneten Werte \(\hat{y}_{i}=\beta_{0}+\beta_{1}\cdot x_{1}^{(i)}+\dots+\beta_{n}\cdot x_{n}^{(i)}\) möglichst wenig voneinander abweichen. Eine einfache lineare Regression ist in Abb. 3 dargestellt.

Eine mögliche Variante ist die sogenannte Methode der kleinsten Quadrate, bei der für die Abweichung die Summe der Fehlerquadrate betrachtet wird. Es entsteht ein Minimierungsproblem: Da dieses Verfahren in seiner einfachsten Form zu Overfitting neigt, können zusätzliche Nebenbedingungen, sogenannte Strafterme, hinzugefügt werden. Man spricht hierbei auch von Regularisierung. Beispiele hierfür sind Ridge- und LASSO-Regularisierung [15, 32].

Dank ihrer generischen Funktionsweise können lineare Regressionsverfahren auf zahlreiche Art in statistischen Analysen im Medizinkontext eingesetzt werden. Neben der bloßen Beschreibung von Zusammenhängen zwischen beobachteten Werten sind auch Schätzungen und Prognosen der Zielvariablen möglich, z. B. bei der Mortalitätswahrscheinlichkeit von Patientinnen und Patienten mit sorgfältig ausgewählten Risikofaktoren [6, 21].

Der k‑Nearest-Neighbour-Algorithmus (kNN, dt. \(k\) nächste Nachbarn) kann zur überwachten Klassifikation oder Regression eingesetzt werden. Die Grundidee besteht darin, für einen Datenpunkt die \(k\) ähnlichsten Datenpunkte (Nachbarn) innerhalb der Trainingsdaten zu finden und als Ergebnis die häufigste Klasse (Klassifikation) oder den Durchschnitt der Zielwerte (Regression) dieser Nachbarn zu verwenden. Abb. 4 stellt das Verfahren für die Klassifikation dar.

In der Praxis sind hierbei verschiedene Entscheidungen zu treffen. Neben der Wahl eines geeigneten Parameters \(k\) und eines geeignetes Maßes zur Bestimmung des Abstands zweier Datensätze entscheidet insbesondere auch die Auswahl geeigneter Features über die Qualität der Ergebnisse. Um eine bessere Performance zu erreichen, können vor der eigentlichen Ausführung auch wenige aussagekräftige Vertreter aus den Trainingsdaten ausgewählt werden, die dann zur Bestimmung der Nachbarn genutzt werden. Auf diese Weise müssen weniger Distanzen berechnet werden. Alternativ hierzu steht eine Vielzahl von Verfahren zur Verfügung, die durch den geschickten Einsatz von Datenstrukturen oder Heuristiken ein schnelleres Finden der Nachbarn erlauben [7].

In der Medizin können k‑Nearest-Neighbour-Klassifikatoren unter anderem dafür eingesetzt werden, Zusammenhänge zwischen ähnlichen Symptomatiken und Krankheitsbildern festzustellen [18].

Der \(k\)-Means-Algorithmus wird zum unüberwachten Clustering von Daten verwendet [24]. Ziel ist es, Daten derartig in \(k\) Cluster \(S=\{S_{1},\dots,S_{k}\}\) mit zugehörigen Cluster-Mittelwerten \(\mu_{i}\) (auch Schwerpunkte oder Zentroide genannt) zu partitionieren, dass die Summe aller Abweichungen von diesen Mittelwerten minimal ist. Abb. 5 stellt ein mögliches Resultat des Algorithmus für drei Cluster dar. Es ergibt sich das Optimierungsproblem der Minimierung von über die Zuweisung der Daten \(x_{i}\) zu den Clustern \(S_{j}\). Das Finden einer optimalen Lösung für dieses Problem ist schwierig, es existieren jedoch viele heuristische Verfahren, wie etwa Lloyd’s Algorithmus. Hierbei werden initial \(k\) Mittelwerte zufällig gewählt (z. B. schlicht \(k\) zufällige Datensätze). Anschließend wird jeder Datensatz jeweils dem am nächsten liegenden Mittelwert zugewiesen und es werden für die so entstehenden Cluster neue Mittelwerte berechnet. Dieser Vorgang wird so lange wiederholt, bis sich die Zuweisung von Datensätzen zu Clustern nicht mehr ändert.

Unüberwachte Clusteralgorithmen wie der \(k\)-Means-Algorithmus können in der Medizin unter anderem zur Partitionierung von Patientengruppen eingesetzt werden, etwa bei Alzheimerpatientinnen und -patienten. Die maschinelle Verarbeitung von Patientendaten kann hierbei deutlich komplexere Zusammenhänge berücksichtigen als eine manuelle Analyse. Anhand der gefundenen Gruppen können anschließend zielgerichtete medizinische Studien für verbesserte Diagnostik- und Therapiemöglichkeiten durchgeführt werden.

Entscheidungsbäume dienen der überwachten Klassifikation (classification trees) und Regression (regression trees) [8]. In Abb. 6 ist ein einfacher Entscheidungsbaum für die Klassifikation abgebildet. Während der Trainingsphase wird der Entscheidungsbaum in einem top-down-Ansatz vom Wurzelknoten aus aufgebaut. Hierzu werden rekursiv Knoten anhand eines Merkmals partitioniert, bis die entstehenden Blattknoten ausreichend homogen in Bezug auf die Zielklasse oder den Zielwert sind. Datensätze werden während der Inferenzphase ausgehend vom Wurzelknoten eines Baums bis zu einem Blattknoten bewertet. Hierzu werden an den Knoten des Baums Entscheidungen in Bezug auf ein Feature getroffen. Diese Entscheidungen ergeben einen Pfad bis zu einem Blattknoten, der die Klasse oder den Zielwert für den Datensatz beschreibt. Da ein optimaler Entscheidungsbaum schwierig zu berechnen ist, werden in der Praxis heuristische Ansätze wie CART verwendet [8].

Entscheidungsbäume bilden ein leicht zu verstehendes und gut zu visualisierendes Verfahren, das dadurch auch leicht zu interpretieren ist [19]. In ihrer einfachsten Form neigen sie jedoch insbesondere bei der Betrachtung von vielen Features zur Überanpassung. Abhilfe kann der Einsatz mehrerer, separat trainierter Entscheidungsbäume schaffen, aus deren Ergebnissen eine Mehrheitsentscheidung getroffen wird. Dieses Verfahren wird Random Forest genannt. Das Training der verschiedenen Bäume erfolgt hierbei auf einer zufälligen Menge der Trainingsdaten und mit einer Zufallsauswahl relevanter Merkmale für die Partitionierungen. Hierdurch werden unterschiedliche Entscheidungsbäume erreicht. Die Bewertung eines Datensatzes in der Inferenzphase erfolgt durch separate Bewertung in jedem Baum. Das finale Ergebnis für den Datensatz bildet die Klasse, die am häufigsten von den einzelnen Entscheidungsbäumen als Resultat berechnet wurde.

Aufgrund ihrer transparenten Entscheidungsfindung wurden Entscheidungsbäume bereits in zahlreichen medizinischen Kontexten eingesetzt, vor allem im Bereich der Diagnostik. Beispielsweise wurde bereits vor vielen Jahren gezeigt, dass Klassifikationsbäume Herzinfarkte bei entsprechender Datenverfügbarkeit mit 94-prozentiger Genauigkeit (Fläche unter der Kurve) richtig diagnostizieren können [33]. Insbesondere als Ergänzung zu herkömmlichen Methoden der medizinischen Diagnostik birgt dies große Chancen.

Support Vector Machines (SVMs, dt. Stützvektormaschinen) werden zur überwachten Klassifikation eingesetzt [9]. Grundsätzlich sind SVMs nur für binäre Klassifikationsaufgaben (mit zwei möglichen Klassen) geeignet. Die grundlegende Idee besteht darin, in der Trainingsphase eine bestmögliche Trennung der Trainingsdaten in die beiden (binären) Klassen durch Hyperebenen im Merkmalsraum zu finden. Hierzu wird eine Hyperebene ermittelt, die eine maximale Distanz zu den ihr am nächsten liegenden Trainingsdatensätzen der entsprechenden Klassen erreicht. Die orthogonalen Stützvektoren (engl. Support Vectors) zwischen Hyperebene und diesen Trainingsdatensätzen geben dem Verfahren seinen Namen. Durch Maximierung der Distanz sollen gute Ergebnisse für spätere Klassifikationen erreicht werden, selbst wenn in den Trainingsdaten unähnliche Daten verwendet werden. Abb. 7 zeigt ein einfaches Beispiel inklusive der trennenden Hyperebene (in diesem Fall eine Gerade) und der Stützvektoren. Da viele Klassifizierungsprobleme nicht linear lösbar sind, können sich SVMs des sogenannten Kernel-Tricks bedienen, der die Daten in höhere Dimensionen abbildet, in denen eine lineare Trennung möglich ist. Sogenannte Kernel-Funktionen ermöglichen dabei die implizite Berechnung von für die SVM relevanten Vektorprodukten, ohne die Abbildung in höhere Dimensionen explizit machen zu müssen [14].

Es existieren sowohl Erweiterungen für die Klassifikation mit mehr als zwei Klassen, indem mehrere Einzelprobleme als Ist-in-Klasse vs. Ist-nicht-in-Klasse betrachtet und die Einzelergebnisse geeignet verknüpft werden, als auch Erweiterungen zur Nutzung des Prinzips für die Regressionsanalyse [11]. Ein wesentlicher Vorteil von SVMs besteht darin, dass sie auch für hochdimensionale Daten, also Daten, die viele Merkmale besitzen, und wenige Trainingsdatensätze gute Ergebnisse liefern können.

In der Medizin können SVM z. B. zur Klassifizierung von Diabetikerinnen und Diabetikern sowie Menschen mit einer Vorstufe von Diabetes genutzt werden. Dies kann bei einer datenbasierten, frühzeitigen Erkennung von Diabetes bereits vor den klinisch apparenten Stadien helfen und somit eine frühe Therapie ermöglichen [35].

Neuronale Netze in unterschiedlichen Ausprägungen haben eine breite Anwendbarkeit in verschiedenen Aufgaben des maschinellen Lernens. Neben überwachter Klassifikation und Regression, unüberwachtem Clustering und der Detektion von Anomalien in Daten können mit ihrem Einsatz auch (im echten Wortsinne) übermenschliche Leistungen in klassischen Brettspielen wie Schach und Go erzielt werden.

Die grundlegende Idee ist inspiriert vom Aufbau und von den Vorgängen im menschlichen Gehirn. Die kleinsten Bestandteile künstlicher neuronaler Netze bilden sogenannte Neuronen, die üblicherweise in Schichten angeordnet und untereinander durch Kanten verbunden sind. Ein Netz besteht, wie in Abb. 8 dargestellt, aus einer Eingabeschicht (engl. input layer) (beispielsweise bestehend aus einem Neuron pro Pixel eines Eingabebildes), einer Menge von Zwischenschichten (engl. hidden layers) und einer Ausgabeschicht (engl. output layer), die beispielsweise ein Neuron pro möglicher Klasse in einem Klassifizierungsproblem enthält. Werden viele Zwischenschichten verwendet, so wird auch von Deep Neural Networks oder allgemeiner von Deep Learning gesprochen [30]. Ähnlich zu den Vorgängen im Gehirn führen verschiedene Eingaben zu unterschiedlich starken Aktivierungen der Neuronen. Abhängig von ihrer Aktivierungsintensität geben die Neuronen über ihre Kantenverbindungen Signale an die nächste Schicht weiter. Das Ergebnis kann letztlich aus der Aktivierung der Ausgabeneuronen in der letzten Schicht abgelesen werden.

Im Detail wird die jeweilige Aktivierung folgendermaßen berechnet: Ein Neuron empfängt zunächst eine Menge von Eingaben \(I\) und berechnet daraus mithilfe einer nicht-linearen Aktivierungsfunktion \(\varPhi\) über die Summe aller Eingaben seine Ausgabe \(O\). Beliebte Aktivierungsfunktionen sind ReLU (engl. Rectified Linear Unit) und Sigmoid. Erstere schneidet mittels \(\varPhi_{\text{ReLU}}(x)=max(0,x)\) effektiv alle Werte \(<0\) ab, sodass die Funktionsausgabe immer positiv ist. Die Sigmoid-Funktion \(\varPhi_{\text{sig}}(x)=\frac{1}{1+e^{-x}}\) bildet alle Eingaben auf einen Wert zwischen 0 und 1 ab. Die beiden Funktionsgraphen sind in der Abb. 9 dargestellt.

Die Eingaben für einzelne Neuronen \(I\) werden jeweils mit Gewichten \(w_{i}\) (von engl. weights) versehen und zusätzlich mit einem sogenannten Bias-Term \(b\) addiert:

Es gibt zahlreiche Strategien für einen effizienten und effektiven Trainingsprozess, die je nach Aufgabengebiet, Datenbeschaffenheit und Kontext variieren. Eine beliebte Technik ist die Aufteilung der Trainingsdaten in sogenannte (Mini‑)Batches, um die Modellparameter nicht nach jedem einzelnen Datenwert, sondern erst nach Beobachtung des Netzes bei der Eingabe eines ganzen Batches anzupassen. Zusätzlich werden die Trainingsdaten wiederholt in mehreren Durchläufen (engl. epochs) verarbeitet, in der Regel einmal pro Durchlauf. Dabei kann die Zusammenstellung der Batches auch nach jedem Durchlauf variiert werden, um die Auswirkungen unausgeglichener Batch-Zusammenstellungen zu minimieren. Auch die Lernrate (engl. learning rate), also das Flexibilitätsmaß der Modellparameter, mit dem die beobachteten Fehler korrigiert werden, kann im Verlauf des Lernprozesses geändert werden. In der Regel wird mit einer höheren Lernrate begonnen, um die initialen Zufallswerte der Modellparameter schnell zu korrigieren. Nach einigen Durchläufen kann die Lernrate reduziert werden, um das Modell schrittweise gegen ein lokales Optimum (hinsichtlich der Fehlerminimierung) konvergieren zu lassen.

Neben der Lernrate und der Anzahl von Batches und Trainingsdurchläufen muss auch der Aufbau eines Netzes (die Anzahl der Neuronenschichten, die Anzahl der Neuronen pro Schicht und weitere Eigenschaften) im Rahmen des Entwurfs und der Entwicklung eines neuronalen Netzes festgelegt werden; diese Werte werden auch als Hyperparameter bezeichnet. Die Auswahl der richtigen Hyperparameter erfordert in der Regel viel Geschick und Übung. Neben der händischen Auswahl dieser Hyperparameter existieren jedoch bereits Ansätze unter dem Oberbegriff automated machine learning (AutoML), um auch diesen Schritt zu automatisieren.

Im Vergleich zu anderen ML-Verfahren sind die Vorgänge in neuronalen Netzen schwieriger nachzuvollziehen und zu erklären. Weiterhin benötigen sie im Normalfall eine große Menge von Trainingsdaten und der Ressourcenbedarf im Trainingsprozess liegt deutlich über dem anderer Methoden.

Dennoch können neuronale Netze auf vielfältige Weise in der Medizin eingesetzt werden. Einsatzgebiete sind die Erkennung von Auffälligkeiten im Rahmen der bildgebenden Diagnostik [34] oder die Filterung von Stör- und Hintergrundgeräuschen in Hörgeräten [12]. Aktuelle Projekte beschäftigen sich mit der Erkennung von Gefäßen in Schnittbildgebungen ohne Kontrastmittel, was zu einer Vermeidung von kontrastmittelassoziierten Komplikationen im Rahmen dieser Standardbildgebung führen könnte. In der Praxis scheitert ihr Einsatz in kritischen Gesundheitsbereichen jedoch häufig an den hohen Anforderungen an medizinische Softwareprodukte. Vor allem die mangelnde Transparenz der Entscheidungsfindung kann problematisch sein, wobei Techniken des erklärbaren ML (siehe Abschn. 2.5) eventuell Abhilfe schaffen können.