Clusteranalyse

An dieser Stelle muss nochmals darauf hingewiesen werden, dass die den Entwicklungs-Abbildungen zugrunde liegende SSCI-Suche ausschließlich auf Begriffe in den Keywords, Abstracts und Überschriften der Publikationen basiert. Kann man bei eigenständigen Untersuchungsmethoden in der Regel davon ausgehen, dass der Name der Methode in einem der drei Suchbereiche auftaucht, muss dies bei Methoden, die zumindest teilweise als Hilfsmethode neben, bzw. vor anderen Analyseverfahren zum Einsatz kommen, nicht immer der Fall sein. Die Clusteranalyse kann man, wie im weiteren Verlauf des Kapitels deutlich werden dürfte, häufig in die zuletzt genannte Kategorie einstufen. Deshalb werden vermutlich einige eigentlich relevante Publikationen nicht gefunden werden – anders als bei den in den anderen Kapiteln behandelten Methoden. Die absolute Höhe der Kurve ist damit nur mit Vorsicht zu interpretieren. An der Aussage über die Trends ändert dies jedoch nichts.

Grundsätzlich lassen sich Objekte auch mittels Diskriminanzanalyse voneinander unterscheiden. Im Unterschied zur Clusteranalyse muss dabei jedoch die Gruppenmitgliedschaft von einigen Objekten bereits a priori bekannt sein. Aus diesen lässt sich dann eine Gruppierungsregel gewinnen, die dann auf andere – bislang nicht eingruppierte – Objekte angewendet werden kann (Backhaus et al. 2016a, S. 215–282). Bei der Clusteranalyse hingegen ist zu Beginn nicht klar welches Individuum in welche Gruppe gehört – oftmals ist nicht einmal die Anzahl der Gruppen bekannt.

Es handelt sich hierbei keinesfalls um die einzige denkbare oder sinnvolle Einteilung und bei weitem deckt sie nicht die Breite und die Feingliedrigkeit der verschiedenen einzelnen Varianten oder gar Algorithmen ab. So existieren darüber hinaus etwa sehr spezielle Verfahren wie spektrales Clustern, Kerndichte basiertes Cluster, Clustern auf der Basis von Support Vectors. Die Übersicht in Abb. 2 konzentriert sich auf wesentliche Verfahren, bei denen am ehesten von einer breiteren Anwendung gesprochen werden kann oder künftig auszugehen ist.

Die Verwendung der Euklidischen Distanz als Maß erfordert metrisches Skalenniveau bei den Rohdaten.

Backhaus und Kollegen stellen basierend auf einer Simulationsstudie von Milligan und Cooper (1985), die 30 stopping rules verglichen hatten, zwei Teststatistiken vor, die eine eindeutige Entscheidung für eine bestimmte optimale Clusteranzahl erleichtern. Diese seien in bis zu 90 % der Fälle in der Lage die wahre Gruppenstruktur zu finden (Backhaus et al. 2016b, S. 496–497).

Beschreibungen dieser Weiterentwicklungen der hierarchischen Clusteranalyse finden sich bei Xu und Wunsch (2009, S. 40–45).

Neben dem Kriterium der minimalen Streuungsquadratsumme innerhalb der Cluster wurden noch weitere Kriterien für den Abbruch der k-Means-Iteration vorgeschlagen. Sie alle versuchen entweder die interne Homogenität der Cluster oder die externe Heterogenität zu erfassen, beispielsweise über die maximale Distanz zwischen den Objekten eines Clusters, oder der Summe der Distanzen eines Objektes in einem Cluster zu allen Objekten außerhalb dieses Clusters. Diese und weitere Kriterien sind bei Xu und Wunsch (2009, S. 65–67) im Detail nachzulesen.

Die Kombination von hierarchischen und partitionierenden Clusterverfahren kann zudem dazu genutzt werden, um eine Clusterlösung wie folgt zu validieren: Die in einer Stichprobe per hierarchischer Variante gewonnen Clusterlösung kann darauf hin geprüft werden, wieweit sie sich in einer anderen relevanten Stichprobe oder Population reproduzieren lässt. Letzteres geschieht durch die partitionierende Variante, die eine Clusterlösung auf Basis der Informationen aus dem vorangehenden Analyseschritt optimiert. Im Zuge dessen kann die Übereinstimmung der Clusterprofile in der ersten und der zweiten Analyse festgestellt und das Clusterergebnis validiert werden (Berger 2000).

Ist ein Objekt gleich weit von mehreren Clusterzentren entfernt, liegt es im Überlappungsbereich dieser Cluster. Befindet es sich weit weg von einem Clusterzentrum wird es als Ausreißer bezeichnet (Bacher et al. 2010b, S. 323).

Die Distanzmessung erfolgt im Fall rein metrischer Variablen über die Euklidische Distanz, sind auch kategoriale Variablen vorhanden, geschieht dies über die Log-Likelihood-Distanz. Dabei wird bei metrischen Variablen Mittelwert und Standardabweichung gespeichert und angenommen, dass die Variablen einer Normalverteilung folgen. Bei kategorialen Variablen geht man von einer Multinominalverteilung aus und speichert die absoluten Häufigkeiten sämtlicher Merkmalsausprägungen. Basierend auf diesen Daten und Annahmen berechnet man den Wert der maximierten Likelihood-Funktion. Die Log-Likelihood-Distanz zwischen zwei potenziell zu fusionierenden Clustern A und B erhält man sodann – analog zur Logik beim Ward-Verfahren – aus dem Vergleich der Gesamtlikelihood der beiden Cluster (L_A und L_B) mit der Gesamtlikelihood des dann zusammengefassten Clusters (L_AB): LLDist = L_AB − L_A − L_B. Die Gesamtlikelihood eines Clusters ergibt sich dabei über die maximierte Likelihood für alle Variablen (Bacher et al. 2010a, S. 447).

Eng verwandt mit den dichtebasierten Verfahren ist die rasterbasierte Clusteranalyse, welche über die Dichte in a priori vorgegebenen Zellen eine Art Vorclusterung ähnlich dem BIRCH-Verfahren durchführt. Hierdurch können deutlich schnellere Rechenzeiten als bei reinen dichtebasierten Clusteranalysen erzielt werden (Xu und Wunsch 2009, S. 225–226; Fahad et al. 2014, S. 269).

Für kategoriale Variablen, bei denen keine Normalverteilung innerhalb der Cluster angenommen werden kann, sind die sogenannten latent class Analysen entwickelt worden (Allerdings ist es nicht ausgeschlossen, metrische und normalverteilte Merkmale zusätzlich hinzuzuziehen). Diese Verfahren gehen davon aus, dass eine Gesamtheit von Objekten in homogene Segmente oder Klassen auf der Basis ihrer nominalen oder ordinalen Klassifikationsmerkmale zerlegt werden kann – die Merkmale sind demnach unabhängig voneinander, ihr Zusammenfallen kann durch die latenten Klassen vollständig aufgeklärt werden (Bacher und Vermunt 2010, S. 555–556). Abweichungen von diesen Klassen lassen sich dann, auf der Basis der Kenntnis der Verteilungshäufigkeiten, als Wahrscheinlichkeiten der Zugehörigkeit auffassen. Die Analyse latenter Klassen ist dabei insofern modellbasiert, als sie bestimmte Verteilungsannahmen voraussetzt, um die Objekte auf latente Klassen zurückzuführen (Bacher und Vermunt 2010; Stahl und Sallis 2012, S. 347–349).

Konkret verglichen werden das Fuzzy-C-Means Clustering, der mehrstufige hierarchische BIRCH-Algorithmus, das dichtebasierte DENCLUE-Verfahren, der rasterbasierte OptiGrid-Ansatz sowie das modellbasierte Clustering mittels Erwartungs-Maximierungs-Algorithmus (Fahad et al. 2014, S. 271–273).

Dies sind Partitition Around Medoids (PAM), Clustering Large Applications (CLARA), Fuzzy Analysis (FANNY), Agglomerative Nesting (AGNES), Divisive Analysis (DIANA) und Monothetic Analysis (MONA).