- Bei der hierarchischen Clusteranalyse werden die Daten in einer baumartigen Struktur, dem sogenannten Dendrogramm, angeordnet, wodurch die Notwendigkeit entfällt, die Anzahl der Cluster vorab festzulegen.
- AGNES bildet Cluster von unten nach oben durch iteratives Zusammenführen, während DIANA eine einzelne große Gruppe von oben nach unten aufteilt.
- Die Qualität der Cluster wird anhand interner Metriken wie dem Davies-Bouldin-Index oder externer Vergleiche mittels Präzision und Trefferquote bewertet.
Haben Sie jemals das Gefühl gehabt, vor einem riesigen Datenberg zu stehen und den Wald vor lauter Bäumen nicht zu sehen? Genau hier kommt das Clustering ins Spiel. Es ist im Grunde die Kunst, Datenpunkte anhand ihrer Ähnlichkeit zu gruppieren , sodass die Daten innerhalb einer Gruppe eng beieinander liegen, während die Gruppen selbst weit voneinander entfernt sind. Es ist ein Eckpfeiler des unüberwachten maschinellen Lernens, was bedeutet, dass der Computer Muster erkennt, ohne vorher zu wissen, wonach er suchen soll.
Es gibt zwar viele Möglichkeiten, Daten zu analysieren, doch hierarchisches Clustering ist etwas Besonderes. Anstatt einfach eine zufällige Anzahl von Gruppen auszuwählen, erstellt es eine verschachtelte Struktur, die einem Stammbaum ähnelt . Ob Sie nun ein Aktienportfolio diversifizieren oder Ihre Kundenbasis segmentieren möchten – dieser Ansatz bietet Ihnen eine visuelle Darstellung der Zusammenhänge Ihrer Daten und ermöglicht es Ihnen, zu entscheiden, wo Sie den Baum aufteilen müssen , um die optimale Anzahl an Clustern zu erhalten.
Die Kernlogik des hierarchischen Clusterings
Im Kern erstellt hierarchisches Clustering eine Hierarchie von Gruppen. Diese wird häufig durch ein Dendrogramm dargestellt , ein baumartiges Diagramm, dessen vertikale Achse die Distanz oder Unähnlichkeit zwischen den Clustern repräsentiert. Je tiefer der Ast, desto ähnlicher sind die Elemente. Diese Methode ist äußerst flexibel, da sie – anders als Algorithmen wie K-Means – keine Vorabfestlegung der Clusteranzahl (k) erfordert.
AGNES: Der Bottom-Up-Ansatz
AGNES, oder Agglomerative Nesting, ist die gängigste Variante des hierarchischen Clusterings. Es basiert auf dem Prinzip „Jeder für sich“, wobei jeder einzelne Datenpunkt zunächst einen eigenen kleinen Cluster bildet . Anschließend verschmilzt der Algorithmus iterativ die beiden nächstgelegenen Cluster, bis alle Datenpunkte zu einer einzigen großen Gruppe zusammengefasst sind.
Der Prozess läuft im Allgemeinen in folgenden Schritten ab: Zuerst wird eine Proximitätsmatrix mithilfe eines Distanzmaßes (wie der euklidischen Distanz) berechnet. Anschließend werden die beiden ähnlichsten Punkte verbunden. Die Matrix wird aktualisiert, um diese neue Gruppe abzubilden, und der Prozess wird wiederholt. Damit dies funktioniert, benötigen Sie ein Verknüpfungskriterium , das festlegt, wie die Distanz zwischen den Gruppen gemessen wird.
- Einfachkupplung: Sieht die Mindestabstand zwischen je zwei Punkten in verschiedenen Clustern. Dies kann zu einer „Kettenbildung“ führen, bei der Cluster in langen, dünnen Linien wachsen.
- Vollständige Verknüpfung: Konzentriert sich auf die maximale Entfernung zwischen Punkten, wodurch tendenziell kompaktere, kugelförmige Gruppen entstehen.
- Durchschnittliche Verknüpfung: Berechnet die mittlere Distanz zwischen allen Punktepaaren über zwei Cluster hinweg, wodurch ein ausgewogener Mittelweg geschaffen wird.
- Schwerpunktverbindung: Misst den Abstand zwischen den geometrische Zentren (Schwerpunkte) der Cluster, die oft robuster gegenüber Ausreißern sind.
- Wards Methode: Statt reiner Entfernungsmessung zielt es darauf ab, die gesamte Varianz innerhalb der Cluster minimierenwodurch die Cluster effektiv eng und zusammenhängend gehalten werden.
DIANA: Die Top-Down-Strategie
Demgegenüber steht DIANA (Divisive Analysis). Während es bei AGNES um den Bau eines Turms geht, gleicht DIANA dem Erschaffen einer Skulptur . Sie beginnt mit einem riesigen Cluster, der alle Datenpunkte enthält, und zerlegt diesen rekursiv in kleinere.
Der Algorithmus identifiziert das Cluster mit dem größten Durchmesser (die unähnlichsten Punkte) und findet die am stärksten abweichende Beobachtung – diejenige, die sich am meisten von den übrigen unterscheidet. Diese Beobachtung bildet eine neue Gruppe, und die anderen Punkte werden neu zugeordnet, je nachdem, welcher Gruppe sie näher liegen . Dieser Vorgang wird fortgesetzt, bis jeder Punkt isoliert ist. Im Gegensatz zu AGNES muss hier lediglich ein Distanzmaß gewählt werden; eine Verknüpfungsmethode ist nicht erforderlich.
Erfolgs- und Qualitätsmessung
Da es beim unüberwachten Lernen keine „richtige“ Antwort gibt, verwenden wir spezifische Metriken, um zu überprüfen, ob unsere Cluster tatsächlich sinnvoll sind. Im Allgemeinen unterteilen wir diese in interne und externe Validierung.
Interne Validierung benötigt keine externen Labels. Der Davies-Bouldin-Index beispielsweise betrachtet das Verhältnis von Kohäsion innerhalb von Clustern zu Trennung zwischen Clustern; ein niedrigerer Wert ist besser. Das Stresspotenzial misst die Summe der quadrierten Abstände zu den Zentroiden, wobei dieser Wert mit zunehmender Clusteranzahl naturgemäß sinkt. Weitere gängige Methoden sind die Ellbogenmethode und die Silhouettenanalyse, um die optimale Anzahl an Gruppen zu ermitteln.
Externe Validierung kommt zum Einsatz, wenn ein Goldstandard oder Expertenklassifizierungen zum Vergleich vorliegen. Metriken wie Präzision, Trefferquote und F-Maß behandeln das Clustering-Ergebnis als Klassifizierungsproblem. Mithilfe der Informationstheorie und unter Verwendung von Entropie und gegenseitiger Information lässt sich zudem ermitteln, wie stark die Unsicherheit reduziert wird, wenn die Ausgabe des Algorithmus mit bekannten Kategorien verglichen wird.
Praktischer Nutzen: Von Finanzen bis Datenwissenschaft
Dies ist nicht nur akademische Theorie. Im Finanzwesen beispielsweise ist Clustering ein wirksames Instrument zur Portfoliodiversifizierung . Mithilfe einer Korrelationsmatrix der Aktienrenditen als Distanzmaß können Anleger ein Dendrogramm erstellen, um zu erkennen, welche Aktien sich parallel entwickeln. Für eine wirkliche Diversifizierung wählt man Vermögenswerte aus verschiedenen Zweigen des Dendrogramms aus, um sicherzustellen, dass das Portfolio nicht übermäßig einem einzelnen Risikofaktor ausgesetzt ist.
Über den Finanzbereich hinaus hilft Clustering bei der Marktsegmentierung , indem es Kunden mit ähnlichen Kaufgewohnheiten gruppiert und Unternehmen so ermöglicht, ihr Marketing gezielter auszurichten. Entscheidend ist, mit verschiedenen Distanzmetriken – wie Manhattan oder Mahalanobis – und unterschiedlichen Verknüpfungsmethoden zu experimentieren, um herauszufinden, welche die plausibelsten Muster im jeweiligen Datensatz aufdeckt.
Die Beherrschung dieser hierarchischen Techniken ermöglicht ein tiefes, strukturelles Verständnis von Daten, von der Detailtiefe einzelner Punkte bis hin zum Gesamtbild globaler Kategorien. Durch das Ausbalancieren von aglomerativen und divisiven Strategien und die Validierung der Ergebnisse anhand interner und externer Kennzahlen lassen sich rohe, unstrukturierte Daten in handlungsrelevante, strukturierte Erkenntnisse verwandeln.
