Stochastik für Einsteiger

Das Wort Stochastik steht als Sammelbegriff für die Gebiete Wahrscheinlichkeitstheorie und Statistik und kann kurz und prägnant als „Mathematik des Zufalls“ bezeichnet werden. Dabei nehmen wir den pragmatischen Standpunkt ein, dass sich gewisse Vorgänge wie die Ziehung der Lottozahlen einer deterministischen Beschreibung entziehen und somit ein stochastisches Phänomen darstellen, weil wir nicht genug für eine sichere Vorhersage wissen. Wir lassen hierbei offen, ob dieses Wissen nur für uns in der speziellen Situation oder prinzipiell nicht vorhanden ist.

Bei einem stochastischen Vorgang interessiert oft nur, ob dessen Ergebnis zu einer gewissen Menge von Ergebnissen gehört. So kommt es zu Beginn des Spiels Mensch-ärgere-Dich-nicht! nicht auf die genaue Augenzahl an, sondern nur darauf, ob eine Sechs geworfen wird oder nicht. Bei Spielen mit zwei Würfeln mag es in einer bestimmten Situation nur wichtig sein, ob die gewürfelte Augensumme größer als 8 ist.

Viele Ereignisse lassen sich gerade deshalb so einfach in Worten beschreiben, weil sie sich auf ein bestimmtes Merkmal der Ergebnisse eines stochastischen Vorgangs beziehen. Solche Merkmale sind etwa die größte Augenzahl oder die Summe der Augenzahlen beim wiederholten Würfelwurf. Der anschaulichen Vorstellung von einem Merkmal entspricht im mathematischen Modell für einen stochastischen Vorgang der Begriff einer Zufallsvariablen.

Jeder wird die Chance, beim Wurf einer Euromünze Zahl zu erhalten, höher einschätzen als die Aussicht, beim Würfelwurf eine Sechs zu werfen. Eine einfache Begründung hierfür mag sein, dass es beim Wurf einer Münze nur zwei, beim Würfelwurf hingegen sechs mögliche Ergebnisse gibt. Schwieriger wird das Problem der Chanceneinschätzung schon beim Wurf einer Reißzwecke auf einen Steinboden mit den beiden möglichen Ergebnissen Spitze nach oben (wir symbolisieren diesen Ausgang mit 1) und Spitze schräg nach unten (dieser Ausgang sei mit 0 bezeichnet).

Wohl jeder hat das Wort Statistik schon einmal gehört oder benutzt. Es gibt Außenhandelsstatistiken, Bevölkerungsstatistiken, Wahlstatistiken, Arbeitslosenstatistiken, Insolvenzstatistiken, Betriebsstatistiken, Schadensstatistiken, Tuberkulosestatistiken, Einkommensstatistiken usw. Derartige Statistiken überhäufen uns täglich mit Daten aus fast allen Lebensbereichen, und oft wird Statistik mit Zahlenkolonnen, Tabellen und grafischen Darstellungen gleichgesetzt.

Relative Häufigkeiten liefern im Fall wiederholbarer Experimente eine empirisch gestützte Chanceneinschätzung für das Eintreten von Ereignissen, vgl. Kapitel 4. Auf welche Fundamente sollte sich jedoch eine „Mathematik des Zufalls“ gründen? Diese Frage war lange Zeit ein offenes Problem; erst 1933 wurde durch A. N. Kolmogorow eine befriedigende Axiomatisierung der Wahrscheinlichkeitsrechnung erreicht. Der Schlüssel zum Erfolg einer mathematischen Grundlegung der Wahrscheinlichkeitsrechnung bestand historisch gesehen darin, Wahrscheinlichkeiten nicht inhaltlich als „Grenzwerte“ relativer Häufigkeiten definieren zu wollen, sondern bescheidener zu sein und nur festzulegen, welche formalen Eigenschaften Wahrscheinlichkeiten als mathematische Objekte unbedingt besitzen sollten.

Es gibt zahlreiche Zufallsexperimente mit endlich vielen Ausgängen wie z.B. den Wurf mit einem exakt gefertigten Würfel, bei denen wir alle Ausgänge als gleich wahrscheinlich ansehen würden.

Erscheint in einer Situation ein Laplace-Modell angemessen, so können wir nach (7.1) die Wahrscheinlichkeit eines Ereignisses A als den Quotienten.

Viele stochastische Vorgänge lassen sich durch Urnen- oder Fächer-Modelle beschreiben. Eine solche abstrakte Beschreibung blendet alle unwesentlichen Aspekte der ursprünglichen Fragestellung aus. Als Beispiel für diesen Abstraktionsprozess diene eine Standardsituation der statistischen Qualitätskontrolle.

Bekanntlich ist die Urlaubs- und Ferienzeit relativ arm an aufregenden Ereignissen, und wir sind längst daran gewöhnt, dass Politiker aller Couleur dieses Sommerloch durch ungewöhnliche Aktionen oder Wortbeiträge zur Selbstdarstellung nutzen. Umso erfreulicher ist es, dass wir die erste Sommerloch-Sensation des Jahres 1995 nicht der Politik, sondern dem reinen Zufall verdankten! So konnte man den Badischen Neuesten Nachrichten vom 29.6.1995 die folgende Meldung entnehmen.

Im Folgenden lernen wir eine Formel zur Berechnung der Wahrscheinlichkeit der Vereinigung von Ereignissen kennen, deren Bedeutung sich schon allein daraus ersehen lässt, dass sie unter verschiedenen Namen wie Siebformel, Formel von Poincaré–Sylvester, Formel des Ein- und Ausschließens oder Allgemeines Additionsgesetz bekannt ist. Zur Vorbereitung erinnern wir an das Additionsgesetz.

In diesem Kapitel lernen wir mit dem Erwartungswert einen weiteren Grundbegriff der Stochastik kennen. Da diese Namensgebung historisch gesehen aus der Beschäftigung mit Glücksspielen entstand, wollen wir die formale Definition des Begriffes auch anhand einer Glücksspielsituation motivieren.

Aus einer Urne mit r roten und s schwarzen Kugeln, die z.B. als defekte bzw. intakte Exemplare einer Warenlieferung gedeutet werden können, werden rein zufällig nacheinander ohne Zurücklegen n Kugeln entnommen; dabei gelte n ≤ r + s. Wie groß ist die Wahrscheinlichkeit, dass diese Stichprobe genau k rote Kugeln enthält?

Viele stochastische Vorgänge bestehen aus Teilexperimenten (Stufen), die der Reihe nach durchgeführt werden. Eine adäquate Modellierung solcher mehrstufigen Experimente lässt sich von den folgenden Überlegungen leiten: Besteht das Experiment aus insgesamt n Stufen, so stellen sich seine Ergebnisse als n-Tupel ω = (a₁, a₂,…, a_n) dar, wobei a_j den Ausgang des j-ten Teilexperiments angibt. Bezeichnet Ω_j die Ergebnismenge dieses Teilexperiments, so ist das kartesische Produkt.

In diesem etwas längeren Kapitel geht es hauptsächlich um Fragen der vernünftigen Verwertung von Teilinformationen über stochastische Vorgänge und um den Aspekt des Lernens aufgrund von Erfahrung. Zur Einstimmung betrachten wir einige Beispiele.

Nach einer ausgiebigen Beschäftigung mit bedingten Wahrscheinlichkeiten steht in diesem Kapitel die stochastische Unabhängigkeit als eine weitere zentrale Begriffsbildung der Stochastik im Mittelpunkt.

Ist $$ X:\varOmega \to {\mathbb{R}} $$ eine Zufallsvariable, so heißt nach 6.3 das W-Maß ℙX, das jeder Teilmenge B von X(Ω) die Wahrscheinlichkeit ℙ(X ∈ B) zuordnet, die Verteilung von X. Im Folgenden betrachten wir mehrere Zufallsvariablen über demselben W-Raum (Ω,ℙ).

In diesem Kapitel lernen wir mit der Binomialverteilung und der Multinomialverteilung zwei grundlegende Verteilungsgesetze der Stochastik kennen. Beide treten in natürlicher Weise bei Zählvorgängen in unabhängigen und gleichartigen Experimenten auf.

Komplizierte Zufallsvorgänge werden häufig im Computer simuliert (von lateinisch simulare: ähnlich machen, nachahmen). Beispiele hierfür sind Lagerhaltungsprobleme mit zufallsabhängiger Nachfrage, die möglichst naturgetreue Nachbildung von Niederschlagsmengen an einem Ort im Jahresverlauf oder das Durchspielen von Verkehrsabläufen mit zufällig ankommenden Autos an einer Ampelkreuzung. Eine solche Simulation geschieht stets nach einem vorgegebenen stochastischen Modell, wobei Erkenntnisse über einen realen Zufallsvorgang unter Einsparung von Zeit und Kosten gewonnen werden sollen.

Während der Erwartungswert nach 12.9 den Schwerpunkt einer Verteilung und somit deren grobe Lage beschreibt, fehlt uns bislang eine Kenngröße zur Messung der Stärke der Streuung einer Verteilung um deren Erwartungswert. Als Beispiel betrachten wir die Binomialverteilung Bin(8,0.5) und die hypergeometrische Verteilung Hyp(8,9,9), siehe Bild 20.1.

In diesem Kapitel lernen wir mit der Kovarianz und der Korrelation zwei weitere Grundbegriffe der Stochastik kennen. Dabei sei im Folgenden ein fester W-Raum (Ω,ℙ) für alle auftretenden Zufallsvariablen zugrunde gelegt.

Die Grenzen der bislang betrachteten endlichen W-Räume als Modelle für Zufallsvorgänge werden schon bei einfachenWartezeitproblemen deutlich, siehe Kapitel 23. Um die mathematischen Hilfsmittel so einfach wie möglich zu halten, beschränken wir uns bei einer Erweiterung der Theorie zunächst auf den Fall diskreter Wahrscheinlichkeitsräume, d.h. auf die Situation einer abzählbar-unendlichen Grundmenge Ω = {ω ₁ , ω ₂ , ω ₃ ,…}. In Analogie zu den in Kapitel 6 angestellten Überlegungen liegt es hier nahe, jedem Elementarereignis {ω _j } eine Wahrscheinlichkeit.

In diesem Kapitel werden verschiedene Wartezeitprobleme wie das Warten auf Treffer in einer Bernoulli-Kette oder das Sammlerproblem (vgl. Kapitel 9) behandelt.

In diesem Kapitel lernen wir mit der Poisson-Verteilung ein weiteres wichtiges Verteilungsgesetz der Stochastik kennen. Diese Verteilung entsteht als Approximation der Binomialverteilung Bin(n,p) bei großem n und kleinem p. Genauer gesagt betrachten wir eine Folge von Verteilungen Bin(n,p _n ), n ≥ 1, mit konstantem Erwartungswert.

In diesem Kapitel lernen wir erzeugende Funktionen als ein häufig verwendetes Hilfsmittel zur Lösung kombinatorischer Probleme kennen. In der Stochastik treten erzeugende Funktionen bei der Untersuchung ℕ₀-wertiger Zufallsvariablen auf.

In diesem Kapitel lernen wir mit bedingten Erwartungswerten und bedingten Verteilungen zwei weitere wichtige Konzepte der Stochastik kennen. Bedingte Erwartungswerte bilden die Grundlage vieler stochastischer Prozesse und besitzen auch für die Statistik große Bedeutung.

In Kapitel 6 haben wir die Erfahrungstatsache des empirischen Gesetzes über die Stabilisierung relativer Häufigkeiten benutzt, um die axiomatischen Eigenschaften von Wahrscheinlichkeiten als mathematische Objekte zu motivieren, vgl. die Diskussion nach Definition 6.1. In gleicher Weise wurde in Kapitel 12 die Definition des Erwartungswertes einer Zufallsvariablen über die auf lange Sicht erwartete Auszahlung pro Spiel motiviert. Im Gegensatz dazu geht das nachfolgende schwache Gesetz großer Zahlen vom axiomatischen Wahrscheinlichkeitsbegriff aus. Es stellt dann innerhalb eines stochastischen Modells einen Zusammenhang zwischen arithmetischen Mitteln und Erwartungswerten her.

Zentrale Grenzwertsätze (engl.: central limit theorems) gehören zu den schönsten und im Hinblick auf statistische Fragestellungen (vgl. Kapitel 29 und 30) wichtigsten Resultaten der Wahrscheinlichkeitstheorie.

Unser Denken und Handeln stützt sich häufig auf Stichproben. In der Marktforschung geben Stichprobenverfahren wichtige Entscheidungshilfen zur Einschätzung der Absatzchancen für neue Produkte. Einschaltquoten von Fernsehsendungen werden täglich auf Stichprobenbasis festgestellt.

Mit der Verfügbarkeit zahlreicher Statistik-Softwarepakete erfolgt das Testen statistischer Hypothesen in den empirischen Wissenschaften vielfach nur noch per Knopfdruck nach einem beinahe schon rituellen Schema. Statistische Tests erfreuen sich u.a. deshalb einer ungebrochenen Beliebtheit, weil.

In diesem Kapitel lernen wir unter anderem stochastische Modelle für Zufallsvorgänge mit kontinuierlichem Charakter kennen. Derartige Vorgänge werden durch stetige Merkmale wie Temperatur, Reißfestigkeit,Windgeschwindigkeit usw. beschrieben, deren Ausprägungen prinzipiell jeden Wert in einem Intervall annehmen können, vgl. Abschnitt 5.1. In Abschnitt 5.4 haben wir gesehen, dass empirische Häufigkeitsverteilungen stetiger Merkmale durch Histogramme veranschaulicht werden können.

In diesem Kapitel lernen wir wichtige stetige Verteilungen und deren Anwendungsfelder kennen. Grundlegende Kenngrößen sind auch hier Erwartungswert, Varianz und Standardabweichung, die völlig analog zur Vorgehensweise bei diskreten Verteilungen eingeführt werden. Schließlich definieren wir das p-Quantil einer Verteilung als theoretisches Gegenstück zum empirischen p-Quantil einer Datenreihe (vgl. Abschnitt 5.6) und zeigen, wie man mithilfe der Quantiltransformation Pseudozufallszahlen nach beliebigen Verteilungen erzeugen kann.

Auf Kapitel 17 und Kapitel 21 aufbauend werden im Folgenden gemeinsame Verteilungen mehrerer Zufallsvariablen eingeführt. Zentrale Begriffe sind gemeinsame und marginale Dichte, Unabhängigkeit, Faltungsformel sowie Kovarianz und Korrelation. Der Einfachheit halber behandeln wir zunächst den Fall zweier Zufallsvariablen.

Wir greifen jetzt die in den Kapiteln 29 und 30 behandelten Fragestellungen wieder auf und betrachten Schätz- und Testverfahren, bei denen die zu analysierenden Daten als Realisierungen stetiger Zufallsvariablen angenommen werden. Grundlegende Begriffsbildungen wie Konfidenzbereich, Test, Fehler erster und zweiter Art, Signifikanzniveau und Gütefunktion werden aus Kapitel 29 und 30 als bekannt vorausgesetzt. Behandelt werden sowohl nichtparametrische Verfahren wie der Vorzeichentest, Konfidenzbereiche für den Median und der Wilcoxon-Rangsummentest als auch klassische Verfahren wie der Gauß- und der t-Test, bei denen eine Normalverteilung zugrunde gelegt wird.