Neuro-Fuzzy-Systeme

(Künstliche) neuronale Netze (artificial neural networks) sind informationsverarbeitende Systeme, deren Struktur und Funktionsweise dem Nervensystem und speziell dem Gehirn von Tieren und Menschen nachempfunden sind. Sie bestehen aus einer großen Anzahl einfacher, parallel arbeitender Einheiten, den sogenannten Neuronen. Diese Neuronen senden sich Informationen in Form von Aktivierungssignalen über gerichtete Verbindungen zu.

Die Beschreibung natürlicher neuronaler Netze im vorangehenden Kapitel legt es nahe, Neuronen durch Schwellenwertelemente zu modellieren: Erhält ein Neuron genügend erregende Impulse, die nicht durch entsprechend starke hemmende Impulse ausgeglichen werden, so wird es aktiv und sendet ein Signal an andere Neuronen. Ein solches Modell wurde schon sehr früh von [McCulloch und Pitts 1943] genauer untersucht. Schwellenwertelemente nennt man daher auch McCulloch-Pitts-Neuronen. Ein anderer, oft für ein Schwellenwertelement gebrauchter Name ist Perzeptron, obwohl die von [Rosenblatt 1958, Rosenblatt 1962] so genannten Verarbeitungseinheiten eigentlich etwas komplexer sind als einfache Schwellenwertelemente.¹

In diesem Kapitel führen wir ein allgemeines Modell (künstlicher) neuronaler Netze ein, das i.W. alle speziellen Formen erfasst, die wir in den folgenden Kapiteln betrachten werden. Wir beginnen mit der Struktur eines (künstlichen) neuronalen Netzes, beschreiben dann allgemein die Arbeitsweise und schließlich das Training eines (künstlichen) neuronalen Netzes.

In den vorangegangenen Kapiteln 4 bis 6 haben wir so genannte vorwärtsbetriebene Netze betrachtet, d.h. solche, bei denen der dem Netz zugrundeliegende Graph azyklisch (kreisfrei) ist. In diesem und dem folgenden Kapitel wenden wir uns dagegen so genannten rückgekoppelten Netzen zu, bei denen der zugrundehegende Graph Kreise (Zyklen) hat. Wir beginnen mit einer der einfachsten Formen, den so genannten Hopfield-Netzen [Hopfield 1982, Hopfield 1984], die ursprünglich als physikalische Modelle zur Beschreibung des Magnetismus, speziell in so genannten Spingläsern¹, eingeführt wurden. In der Tat sind Hopfield-Netze eng mit dem Ising-Modell des Magnetismus [Ising 1925] verwandt (siehe unten).

Auf den ersten Blick scheint es zwischen neuronalen Netzen und Fuzzy-Systemen kaum Gemeinsamkeiten und Beziehungen zu geben. Neben einer für das Verständnis von Neuro-Fuzzy-Systemen erforderlichen Einführung in die Fuzzy-Systeme soll dieses Kapitel auch die teilweise enge Verwandtschaft zwischen Fuzzy-Systemen und neuronalen Netzen erläutern und aufzeigen, wie diese beide Paradigmen durch Kopplung voneinander profitieren können.

Die größten Erfolge im Bereich industrieller und kommerzieller Anwendungen von Fuzzy-Systemen wurden bisher durch Fuzzy-Regler (Fuzzy-Controller) erzielt. Die folgenden der Fuzzy-Regelung gewidmeten Betrachtungen setzen keine Kenntnisse aus der Regelungstechnik voraus. Wir stellen hier lediglich auf intuitiver Basis motivierte Methoden der Fuzzy-Regelung vor, ohne die Semantik dieser Konzepte zu hinterfragen. Derartige Fragestellungen, die detaillierter auf die Grundlagen der Fuzzy-Regelung eingehen, sowie eine genauere Analyse von Fuzzy-Reglern aus der Sicht der Regelungstechnik werden in [Michels et al 2002] behandelt.

Bisher haben wir Neuronale Netze und Fuzzy-Systeme als eigenständige Ansätze betrachtet. Beginnend mit diesem Kapitel widmen wir uns der Kombination dieser beiden Gebiete. Wir diskutieren zunächst einige grundlegende Eigenschaften von Neuro-Fuzzy Kombinationen, bevor wir uns in den weiteren Kapiteln mit verschiedenen individuellen Ansätzen befassen.

Die hybriden Neuro-Fuzzy-Ansätze, die wir im letzten Kapitel diskutiert haben, verwenden alle eine neuronale Architektur. Wie bereits erwähnt, ist dies selbstverständlich keine Voraussetzung für die Anwendung von Lernverfahren auf Fuzzy-Systeme. Diese Darstellungsform kann jedoch von Vorteil sein, um sich den Datenfluss innerhalb des Fuzzy-Systems sowohl für Eingabedaten als auch für Fehler signale, die für das Training verwendet werden, zu verdeutlichen. Ein weiterer Vorteil besteht darin, dass sich auf diese Weise unterschiedliche Neuro-Fuzzy-Ansätze leicht miteinander vergleichen lassen und strukturelle Unterschiede klar zu Tage treten.

Bei der Anwendung von Lernverfahren können wir grundsätzlich zwischen Struktur-und Parameterlernen unterscheiden. Die Struktur eines Fuzzy-Systems ist durch seine Regelbasis und die Granularität des Datenraumes, d.h. durch die Anzahl Fuzzy-Mengen je Variable, gegeben. Die Parameter eines Fuzzy-Systems bestehen aus den Werten, die Form und Lage der verwendeten Zugehörigkeitsfunktionen festlegen. In diesem Kapitel kümmern wir uns um das Erlernen der Struktur eines Fuzzy-Systems, d.h. seiner Regelbasis. Im nächsten Kapitel betrachten wir dann das Erlernen bzw. Optimieren seiner Parameter (Fuzzy-Mengen). In den Kapiteln 16–18 zeigen wir dann, wie bestimmte Implementierungen von Neuro-Fuzzy-Systemen diese Algorithmen einsetzen können.

Wenn wir uns dazu entschlossen haben, eine bestimmte Fuzzy-Regelbasis zur Modellierung eines Problems zu verwenden, können wir diese Regelbasis als linguistisch ausgedrücktes strukturelles Wissen über die Lösung des Problems betrachten. Wenn die Leistung des Fuzzy-Modells nicht ausreicht und wir die Regelbasis nicht ändern wollen, dann haben wir die Möglichkeit, die Fuzzy-Mengen anzupassen, die wir zur Modellierung der linguistischen Ausdrücke verwenden.

In den letzten beiden Kapiteln haben wir Lernalgorithmen für Neuro-Fuzzy-Systeme untersucht. In diesem und den beiden folgenden Kapiteln stellen wir drei Neuro-Fuzzy-Architekturen vor, die auf den diskutierten Lernverfahren beruhen. In diesem Kapitel betrachten wir zunächst eine Architektur für einen Neuro-Fuzzy-Regler und einen speziell dafür entwickelten Lernalgorithmus.

Neuro-Fuzzy-Systeme wurden ursprünglich mit der Idee entwickelt, Fuzzy-Regler zu optimieren. Die meisten der in Kapitel 12 diskutierten Modelle stammen aus diesem Einsatzbereich. Mittlerweile ist jedoch das Interesse an Neuro-Fuzzy-Modellen zur Fuzzy-Datenanalyse sehr stark geworden [Nauck 1995, Nauck 2000]. Der Begriff Fuzzy-Datenanalyse steht dabei für Verfahren aus dem Bereich der Fuzzy-Systeme, die zur Analyse scharfer Daten eingesetzt werden. Der Begriff wird manchmal auch verwendet, um die Analyse vager Daten zu beschreiben. Dabei geht es um die Erweiterung von Standardverfahren auf Fuzzy-Daten. Dieser Aspekt interessiert uns hier jedoch nicht. Leser, die über diesen Bereich mehr erfahren wollen, seien auf grundlegende Arbeiten von [Kruse and Meyer 1987] bzw. neuere Veröffentlichungen in diesem Bereich verwiesen [Borgelt et al. 1999].

Zum Abschluss unser Betrachtung verschiedener Neuro-Fuzzy-Systeme untersuchen wir in diesem Kapitel das Problem, mit Hilfe eines Fuzzy-Systems eine unbekannte stetige Punktion zu approximieren, die nur partiell durch eine Menge von Beispielen gegeben ist. Man spricht in diesem Zusammenhang auch von einem Regressionsproblem. Im Prinzip ist Funktionsapproximation eine Verallgemeinerung der bereits betrachten Probleme Regelung dynamischer Systeme (Kapitel 16) und Klassifikation (Kapitel 17).

In diesem Kapitel betrachten wir abschließend einige Anwendungen von Neuro-Fuzzy-Systemen und Richtlinien für die Auswahl geeigneter Ansätze. Wir haben in den vorhergehenden Kapiteln immer wieder auf die Problematik der Interpretation von Neuro-Fuzzy-Lösungen hingewiesen und werden diese Betrachtungen hier noch einmal zusammenfassend darstellen.