6. Ausblick

Im Modell der logistischen Regression nehmen wir an, dass die Beobachtungen unabhängig voneinander sind.

In der Praxis trifft dies bei gruppierten Daten häufig nicht mehr zu. Zum Beispiel könnte es mehrere Beobachtungen innerhalb der gleichen Familie oder innerhalb der gleichen Klinik geben. Ein weiteres Beispiel sind sogenannte longitudinale Daten: Pro Patient werden mehrere Beobachtungen in einem Zeitverlauf gemacht.

Dabei sind sich Beobachtungen innerhalb derselben Gruppe möglicherweise ähnlicher als Beobachtungen aus verschiedenen Gruppen. Infolge der nicht mehr gültigen Unabhängigkeit stimmt dann die vom Modell angenommene Varianz nicht mehr (siehe auch die Bemerkung in Abschn. 3.​2 mit der Ankoppelung der Varianz an den Erwartungswert). Die Daten zeigen in diesem Falle typischerweise eine größere Streuung als vom Modell erwartet. Dies wird in der Literatur als Overdisperson bezeichnet. Entsprechende Erweiterungen, die eine größere Flexibilität bei der Modellierung der Varianz erlauben, sind in der Funktion glm schon implementiert, z. B. mit der Familie quasibinomial. Man schwächt damit die Ankoppelung der Varianz an den Erwartungswert ab. Weitere Details zu dieser Methode und der Umsetzung in R findet man in Abschn. 4 von Wilson und Lorenz (2015).

Alternativ gibt es noch zwei weit verbreitete Methoden, mit denen die logistische Regression auf solche Datenstrukturen erweitert werden kann: Die Generalized Linear Mixed Models (Jiang 2007), kurz GLMMs, sind im Paket lme4 (Bates et al.  2015) implementiert. Die Generalized Estimation Equations (Ziegler 2011), kurz GEE, sind im Paket gee (Carey 2019) implementiert.

Weitere Methoden zum Umgang mit korrelierten binären Beobachtungen findet man in Wilson und Lorenz (2015).

Die in R produzierten Schätzwerte basieren auf der Annahme, dass sehr viele Beobachtungen zur Verfügung stehen („asymptotische Resultate“). Falls die Anzahl der Beobachtungen „zu klein“ ist, liegen die Schätzwerte der logistischen Regression systematisch daneben, siehe z. B. Nemes et al. (2009).

Es stellt sich natürlich die Frage, ab wann die Anzahl der Beobachtungen „groß genug“ ist. Für diese Frage gibt es leider noch keine einfache und praxistaugliche Antwort. Eine ausführliche Diskussion des Themas findet man in van Smeden et al. (2016).

Falls die Anzahl der Beobachtungen „zu klein“ ist, könnte die sogenannte „exakte logistische Regression“ verwendet werden. Während die Theorie zu dieser Methode existiert (siehe z. B. Abschn. 8.4 in Hosmer Jr et al. (2013) oder Abschn. 8 in Wilson und Lorenz (2015)), ist eine zuverlässige Implementierung in der Software R zur Zeit nicht verfügbar.

Sogenannte „perfekte Separierung“ tritt dann auf, wenn die beiden Gruppen der Zielgröße perfekt durch eine erklärende Variable (oder einer Linearkombination von mehreren erklärenden Variablen) getrennt werden können. Intuitiv scheint diese Situation sehr erstrebenswert, allerdings führt sie zu technischen Problemen bei der Parameterschätzung. Das Problem äußert sich häufig dadurch, dass manche geschätzte Parameterwerte (betragsmäßig) unendlich groß werden.

Dieses Problem tritt besonders häufig auf, wenn es wenige Beobachtungen gibt oder wenn eine der beiden Gruppen sehr selten ist.

Eine mögliche Lösung ist die logistische Regression nach Firth und wird in Heinze und Schemper (2002) diskutiert. Weitere Verbesserungen dieser Methode (FLIC und FLAC) werden in Puhr et al. (2017) vorgestellt. Alle genannten Methoden sind im Paket logistf (Heinze et al. 2020) implementiert.