Grundwissen Mathematikstudium

Mit der Analysis und der Linearen Algebra werden im ersten Studienjahr klassische Grundlagen der Mathematik gelegt. Im Hinblick auf die moderne Entwicklung dieses Fachs sind heute weitere Aspekte ebenso maßgebend, die üblicherweise Gegenstand des zweiten und dritten Studienjahrs sind. Aus diesem Grund setzen wir mit dem vorliegenden Werk das im Folgenden kurz „Band 1“ genannte Lehrbuch „Grundwissen Mathematikstudium: Analysis und Lineare Algebra“ fort. Es ist bei Kenntnis der Inhalte des ersten Studienjahrs auch unabhängig vom Band 1 verständlich und gut lesbar. Wie in jenem Band wird dabei, neben einer vollständigen Beweisführung, Wert auf Zusammenhänge, Hintergründe, Motivation und alternative Beweisideen gelegt. Damit wollen wir einen Weg weisen hin zu einem umfassenden Verständnis von klassischen sowie numerischen und stochastischen Aspekten der Mathematik, ohne die ein wissenschaftliches Arbeiten im Fach heute nicht mehr denkbar ist.

Differenzialgleichungen sind Gleichungen, in denen eine gesuchte Funktion und deren Ableitung(en) auftauchen. Sie spielen innerhalb der Mathematik und auch in vielen Anwendungen eine zentrale Rolle, etwa bei der Modellierung von dynamischen und parameterabhängigen Prozessen in Naturwissenschaften und Technik, aber auch in den Wirtschafts- und Lebenswissenschaften. Im Zentrum unseres Interesses steht auch die Frage nach der Existenz und Eindeutigkeit der Lösung solcher Gleichungen. In diesem Kapitel wollen wir uns vor allem linearen Systemen 1. Ordnung, also mehreren skalaren linearen verkoppelten Differenzialgleichungen 1. Ordnung widmen. Die gesuchte Lösungsfunktion ist dann vektorwertig. Eine Differenzialgleichung heißt linear, wenn die gesuchte Lösungsfunktion und deren Ableitungen in der Gleichung nur linear auftreten.

Thema dieses Kapitels ist das Lösen von nichtlinearen Differenzialgleichungen. Allerdings wird es nur für spezielle Typen von Differenzialgleichungen gelingen, Lösungen explizit anzugeben, d. h. analytische Lösungsmethoden zu finden. Verschiedene Ansätze führen bei unterschiedlichen Typen von Differenzialgleichungen zum Erfolg. Wir betrachten in diesem Kapitel speziell separable und exakte Differenzialgleichungen. Oft bleibt nur die Möglichkeit, eine theoretisch als existent nachgewiesene Lösung numerisch zu bestimmen, siehe Kapitel 18. Eine Lösung einer (nichtlinearen) Differenzialgleichung muss auch nicht unbedingt auf dem ganzen Intervall definiert sein, für das die Differenzialgleichung formuliert wurde. Das Auftreten einer Singularität in endlicher Zeit ist sogar typisch für viele nichtlineare Differenzialgleichungen.

Geometrische Aspekte einer Differenzialgleichung gehen von einem Vektorfeld aus. Gesucht ist dann eine Kurve, deren Tangentialvektoren in allen Punkten mit den Richtungen des Vektorfelds übereinstimmen. Unter qualitativer Theorie von Differenzialgleichungen versteht man das Verhalten von Lösungen speziell für lange Zeiträume. Oft kann man durch das qualitative Verhalten der Lösungen von Differenzialgleichungen Aussagen über Eigenschaften der Gleichungen treffen, ohne sie selbst explizit zu lösen. Diese Betrachtungsweise geht ursprünglich auf den französischen Mathematiker und Physiker Henri Poincaré (1854–1912) zurück. Fragen nach dem Langzeitverhalten und der Stabilität von Lösungen spielen in der Technik und den Naturwissenschaften eine besondere Rolle.

Die Analysis im Komplexen befasst sich hauptsächlich mit holomorphen Funktionen, so werden die im Komplexen differenzierbaren Funktionen genannt.

In Kapitel 23 des ersten Bandes wurden die Grundlagen der Vektoranalysis entwickelt. Neben regulären Kurven und Flächen wurden auch die Differenzialoperatoren Gradient, Divergenz und Rotation (nur in ℝ³) eingeführt und mit dem Satz von Gauß eine erste Verallgemeinerung des Hauptsatzes der Differenzialund Integralrechnung (HDI) auf Vektorfelder im ℝⁿ präsentiert.

Gegenstand der Maß- und Integrationstheorie sind Maßräume und der dazugehörige Integrationsbegriff. Kenntnisse dieses Teilgebiets der Mathematik sind unerlässlich für jede systematische Darstellung der Stochastik und anderer mathematischer Disziplinen, insbesondere der Analysis. In diesem Kapitel stellen wir die wichtigsten Resultate und Methoden aus der Maßund Integrationstheorie bereit. Entscheidende Resultate sind der Maß-Fortsetzungssatz sowie der Eindeutigkeitssatz für Maße.

Immer wieder begegnen wir dem Phänomen, dass mathematische Fragestellungen erheblich leichter zu erfassen sind, wenn zugrunde liegende abstrakte Strukturen herauskristallisiert und somit Zusammenhänge deutlicher werden. Genau aus diesem Grund sind Aspekte der linearen Funktionalanalysis in vielen Bereichen der Mathematik anzutreffen; denn sie beschäftigt sich mit den abstrakten, allgemeinen Eigenschaften linearer Abbildungen in normierten Räumen. Mithilfe der Funktionalanalysis lassen sich einerseits Kenntnisse aus der linearen Algebra in Hinblick auf normierte Räume sortieren und erweitern. Zum anderen wird mit diesem Kapitel eine Grundlage für eine Analysis in abstrakten Vektorräumen gelegt.

Wenn die Operatornorm eines linearen Operators hinreichend klein ist, haben wir in Kapitel 8.1 gesehen, dass das Störungslemma die eindeutige Lösbarkeit von Gleichungen zweiter Art garantiert. In diesem Kapitel wollen wir Gleichungen zweiter Art betrachten, ohne diese relativ starke Einschränkung. Dabei steht eine andere Eigenschaft des störenden Operators, nämlich Kompaktheit, im Vordergrund. Es wurde bereits im Ausblick im Abschnitt 19.6. des Band 1 angedeutet, dass solche Operatoren eine allgemeine Existenztheorie in normierten Räumen erlauben.

Die doppelte Bedeutung des Namens Hilbertraum für das Foyer des Mathematischen Instituts in Göttingen, siehe Titelfoto, erschließt sich dem Studierenden erst nach drei bis vier Semestern. Denn zunächst müssen Begriffe wie Vektorraum, Skalarprodukt und Vollständigkeit nachvollziehbar sein, bevor man sich mit diesen Räumen sinnvoll beschäftigen kann. Bereits in der linearen Algebra und bei der Betrachtung metrischer Räume fällt auf, dass Vektorräume, die mit einem Skalarprodukt ausgestattet sind, weitreichende Möglichkeiten aufweisen. Da mit dem Skalarprodukt stets auch eine Norm gegeben ist, handelt es sich um spezielle normierte Räume. Ist ein solcher euklidischer Vektorraum zusätzlich vollständig, so spricht man von einem Hilbertraum. Viele letztendlich geometrische Aspekte, die aus der linearen Algebra im ℝⁿ bekannt sind, lassen sich in Hilberträumen wiederfinden. Dies macht diese Räume zu reichhaltigen Strukturen in Hinblick auf die Funktionalanalysis.

„Numerische Mathematik“ beginnt eigentlich schon im Altertum, als erste Algorithmen zur Berechnung der Quadratwurzel ersonnen wurden. Seit es Mathematik gibt, gibt es auch die Notwendigkeit des numerischen Rechnens, d. h. des Rechnens mit Zahlen. Numerische Mathematik heute ist die Mathematik der Näherungsverfahren, entweder weil eine exakte Berechnung (z. B. eines Integrals) unmöglich ist oder weil die exakte Berechnung so viel Zeit und Mühe beanspruchen würde, dass ein Näherungsalgorithmus notwendig wird. Etwa mit den ersten Logarithmentabellen im 17. Jahrhundert ergibt sich das Problem, in einer Tabelle zu interpolieren, und die Interpolation von Daten ist noch heute eine der Hauptaufgaben der Numerischen Mathematik.

Die Bezeichnung „Interpolation“ stammt von dem lateinischen Wort interpolo, was so viel wie „neu herrichten“ oder „auffrischen“ bedeutet. In der Numerik versteht man unter Interpolation die Angabe einer Funktion, die durch vorgeschriebene diskrete Daten verläuft. Die Bezeichnung „Approximation“ stammt ebenfalls aus dem Lateinischen und kommt aus dem Wort proximus, was so viel wie „der Nächste“ bedeutet. Im Gegensatz zur Interpolation sucht man Funktionen, die nicht notwendig durch gegebene Datenpunkte verlaufen, sondern die Daten nur in einem zu spezifizierenden Sinn annähern.

Neben der Interpolation ist die numerische Berechnung von Integralen, die „Quadratur“, eine weitere wichtige Grundaufgabe der Numerischen Mathematik und sogar älter als das Integral selbst. Schon Archimedes hat die Fläche unter Kurven berechnet, indem er die Fläche durch einfach zu berechnende Teilflächen dargestellt hat. In der modernen Mathematik gilt es, nicht nur elementar nicht berechenbare Integrale numerisch zugänglich zu machen, sondern auch Integrale mit schwierig zu berechnenden Stammfunktionen einfach und schnell anzunähern.

Eine große Vielfalt unterschiedlicher praxisrelevanter Problemstellungen führt in ihrer numerischen Umsetzung und Lösung auf die Betrachtung linearer Gleichungssysteme. Die schnelle Lösung dieser Systeme stellt dabei häufig den wesentlichen Schlüssel zur Entwicklung eines effizienten und robusten Gesamtverfahrens dar. Bei der Lösung linearer Gleichungssysteme unterscheiden wir direkte und iterative Verfahren. Direkte Algorithmen, die auf im Folgenden vorgestellten LR-, Choleskyund QR-Zerlegungen beruhen, ermitteln bei Vernachlässigung von Rundungsfehlern und unter der Voraussetzung, hinreichend Speicherplatz zur Verfügung zu haben, die exakte Lösung des linearen Gleichungssystems in endlich vielen Schritten. Da die linearen Gleichungssysteme, wie bereits erwähnt, oftmals als Subprobleme innerhalb der numerischen Approximation umfassender Aufgabenstellung auftreten, ist der Nutzer allerdings häufig nicht an der exakten Lösung derartiger Systeme interessiert, da eine Fehlertoleranz in der Größenordnung der bereits zuvor vorgenommen Näherung ausreichend ist. Des Weiteren ist der Aufwand zur exakten Lösung in zahlreichen Fällen viel zu hoch und die auftretenden Rundungsfehler führen zudem gerade bei schlecht konditionierten Problemen oftmals zu unbrauchbaren Ergebnissen. Praxisrelevante Problemstellungen führen zudem in der Regel auf schwach besetzte Matrizen. Die Speicherung derartiger Matrizen wird erst durch die Vernachlässigung der Nullelemente möglich, die häufig über 99 Prozent der Matrixkoeffizienten darstellen. Bei direkten Verfahren können auch bei derartigen Matrizen vollbesetzte Zwischenmatrizen generiert werden, die den verfügbaren Speicherplatz überschreiten. Dagegen können Matrix-Vektor-Produkte, die innerhalb iterativer Verfahren die wesentlichen Operationen repräsentieren, bei schwach besetzten Matrizen sehr effizient berechnet werden, wenn die Struktur der Matrix geeignet berücksichtigt wird. Daher werden in der Praxis zumeist iterative Verfahren eingesetzt. Diese Algorithmen ermitteln sukzessive Näherungen an die gesuchte Lösung auf der Grundlage einer Iterationsvorschrift.

Die in der Mechanik im Rahmen der linearen Elastizitätstheorie vorgenommene Modellierung von Brückenkonstruktionen führt auf ein Eigenwertproblem, bei dem die Brückenschwingung unter Kenntnis aller Eigenwerte und Eigenvektoren vollständig beschrieben werden kann. Generell charakterisieren die Eigenwerte sowohl die Eigenschaften der Lösung eines mathematischen Modells als auch das Konvergenzverhalten numerischer Methoden auf ganz zentrale Weise. So haben wir bereits bei der Analyse linearer Iterationsverfahren zur Lösung von Gleichungssystemen nachgewiesen, dass der Spektralradius als Maß für die Konvergenzgeschwindigkeit und Entscheidungskriterium zwischen Konvergenz und Divergenz fungiert. Bei derartigen Methoden sind wir folglich am Betrag des betragsmäßig größten Eigenwertes der Iterationsmatrix interessiert. Alle Eigenwerte und Eigenvektoren sind dagegen z. B. notwendig, um die Lösungsschar linearer Systeme gewöhnlicher Differenzialgleichungen angeben zu können. Gleiches gilt für die Lösung linearer hyperbolischer Systeme partieller Differenzialgleichungen. Hier kann der räumliche und zeitliche Lösungsverlauf mithilfe einer Eigenwertanalyse der Matrix des zugehörigen quasilineareren Systems beschrieben werden. Die Betrachtung verschiedenster gewöhnlicher und partieller Differenzialgleichungssysteme zeigt, dass viele Phänomene wie die Populationsdynamik von Lebewesen, die Ausbildung von Verdichtungsstößen, der Transport von Masse, Impuls und Energie und letztendlich sogar die Ausbreitungsgeschwindigkeit eines Tsunamis durch die Eigenwerte des zugrunde liegenden Modells respektive ihrem Verhältnis zueinander festgelegt sind.

In diesem Kapitel werden wir Systeme betrachten, bei denen die Zeilenzahl m größer als die Spaltenzahl n ist. Demzufolge liegen mehr Bedingungen als Freiheitsgrade vor, sodass auch im Fall linear unabhängiger Spaltenvektoren keine Lösung des Problems existieren muss. Dennoch weisen derartige Aufgabenstellungen, die sich in der Literatur unter dem Begriff lineare Ausgleichsprobleme einordnen, einen großen Anwendungsbezug auf. Der Lösungsansatz im Kontext dieser Fragestellung liegt in der Betrachtung eines korrespondierenden Minimierungsproblems.

In der Schule lernt man eine explizite Formel zur Lösung quadratischer Gleichungen, die schon den alten Mesopotamiern etwa 1500 v. Chr. bekannt war. Der nächste Fortschritt kam allerdings erst im 16. Jahrhundert in Italien, als Nicolo Tartaglia und Gerolamo Cardano explizite Lösungsformeln für die Wurzeln einer kubischen Gleichung fanden. Kurz darauf wurden auch solche Lösungsformeln für Gleichungen vom Grad 4 gefunden, aber Polynomgleichungen vom Grad 5 widersetzten sich hartnäckig. Erst 1824 gelang dem jungen Niels Henrik Abel der Beweis, dass es eine Lösungsformel mit endlich vielen Wurzelausdrücken für die allgemeine Gleichung fünften Grades nicht geben kann. Die Galois-Theorie hat dann gezeigt, dass alle Polynomgleichungen ab Grad 5 im Allgemeinen nicht explizit aufgelöst werden können. Mit anderen Worten: Schon bei der Nullstellensuche bei einem Polynom von Grad 5 sind wir auf numerische Methoden angewiesen. Allerdings wollen wir gleich hier bemerken, dass die Nullstellenberechnung von Polynomen in der Praxis im Allgemeinen keine Aufgabe für Methoden dieses Kapitels ist, obwohl wir sie häufig als Beispiele verwenden! Die meisten Probleme zur Nullstellenbestimmung von Polynomen treten nämlich bei Eigenwertproblemen auf, bei denen man charakteristische Polynome behandeln muss. Daher wendet man besser gleich numerische Methoden zur Berechnung der Eigenwerte von Matrizen an.

Bereits innerhalb der Kapitel 2 und 3 haben wir uns mit der Lösung gewöhnlicher Differenzialgleichungen befasst und deren Relevanz für die mathematische Beschreibung realer Phänomene angesprochen. Es zeigte sich dabei auch, dass die analytische Lösung einer Differenzialgleichung respektive eines Systems von Differenzialgleichungen an spezielle Typen gebunden ist. Viele Anwendungsprobleme führen jedoch auf Gleichungen, die einer expliziten Lösung nicht mehr zugänglich sind. Diese Tatsache gilt dabei sowohl für den Fall, dass das mathematische Modell eine gewöhnliche Differenzialgleichung darstellt, als auch für die Betrachtung partieller Differenzialgleichungen. Letztere finden ihre Anwendungen in zahlreichen Bereichen wie der Ozeanographie, der Aerodynamik, der Wetterprognose, der Dynamik von Bauwerken und vielem mehr und sind aus unserer heutigen Welt nicht mehr wegzudenken. Die Lösung solcher aufwendigen Problemstellungen wird durch numerische Methoden vorgenommen. Innerhalb partieller Differenzialgleichungssysteme werden häufig sogenannte Linienmethoden eingesetzt, bei denen im ersten Schritt die räumlichen Ableitungen geeignet approximiert werden und anschließend ein System gewöhnlicher Differenzialgleichungen vorliegt, das durchaus eine Million unbekannte Größen aufweisen kann. Folglich sind die in diesem Abschnitt vorgestellten und analysierten Verfahren unabhängig von der Betrachtung gewöhnlicher oder partieller Differenzialgleichungen von zentraler Bedeutung.

In diesem Kapitel lernen wir mit den Begriffsbildungen bedingte Wahrscheinlichkeit und stochastische Unabhängigkeit zwei grundlegende Konzepte der Stochastik kennen. Bedingte Wahrscheinlichkeiten dienen in Form von Übergangswahrscheinlichkeiten insbesondere als Bausteine bei der Modellierung mehrstufiger stochastischer Vorgänge über die erste Pfadregel. Mit der Formel von der totalen Wahrscheinlichkeit lassen sich die Wahrscheinlichkeiten komplizierter Ereignisse bestimmen, indem man eine Zerlegung nach sich paarweise ausschließenden Ereignissen durchführt und eine gewichtete Summe von bedingten Wahrscheinlichkeiten berechnet. Die Bayes-Formel ist ein schlagkräftiges Mittel, um Wahrscheinlichkeitseinschätzungen unter dem Einfluss von zusätzlicher Information neu zu bewerten. Stochastisch unabhängige Ereignisse üben wahrscheinlichkeitsheoretisch keinerlei Einfluss aufeinander aus. Der Begriff der stochastischen Unabhängigkeit lässt sich unmittelbar auf Mengensysteme und damit auch auf Zufallsvariablen mit allgemeinen Wertebereichen übertragen: Zufallsvariablen sind unabhängig, wenn die durch sie beschreibbaren Ereignisse unabhängig sind. Hinreichend reichhaltige Wahrscheinlichkeitsräume enthalten eine ganze Folge unabhängiger Ereignisse mit vorgegebenen Wahrscheinlichkeiten. Markov-Ketten beschreiben stochastische Systeme, deren zukünftiges Verhalten nur vom gegenwärtigen Zustand und nicht der Vergangenheit abhängt. Unter gewissen Voraussetzungen strebt die Verteilung einer Markov-Kette exponentiell schnell gegen eine eindeutig bestimmte stationäre Verteilung, die das Langzeitverhalten der Markov-Kette charakterisiert.

Auf Seite 710 haben wir die Verteilung einer Zufallsvariablen mit Werten in einer allgemeinen Menge eingeführt. In diesem Kapitel werden wir deutlich konkreter und betrachten reelle Zufallsvariablen oder Zufallsvektoren, die höchstens abzählbar viele verschiedene Werte annehmen können. Die zugehörigen Verteilungen sind meist mit Zählvorgängen verknüpft. So entstehen Binomialverteilung, hypergeometrische Verteilung und Pólya-Verteilung, wenn die Anzahl gezogener Kugeln einer bestimmten Art in unterschiedlichen Urnenmodellen betrachtet wird. Zählt man die Nieten vor dem Auftreten von Treffern in Bernoulli-Ketten, so ergeben sich die geometrische Verteilung und die negative Binomialverteilung, und die Multinomialverteilung tritt in natürlicher Weise beim Zählen von Treffern unterschiedlicher Art in einem verallgemeinerten Bernoulli’schen Versuchsschema auf.

In diesem Kapitel lernen wir mit der fast sicheren Konvergenz, der stochastischen Konvergenz, der Konvergenz im p-ten Mittel und der Verteilungskonvergenz die wichtigsten Konvergenzbegriffe der Stochastik kennen. Hauptergebnisse sind das starke Gesetz großer Zahlen von Kolmogorov und die Zentralen Grenzwertsätze von Lindeberg-Lévy und Lindeberg-Feller. Diese Resultate zählen zu den Glanzlichtern der klassischen Wahrscheinlichkeitstheorie, und sie sind bei der Untersuchung statistischer Verfahren für große Stichproben unverzichtbar. Wir haben beim Beweis des Zentralen Grenzwertsatzes von Lindeberg-Lévy bewusst auf charakteristische Funktionen verzichtet und einen relativ elementaren Zugang von Stein gewählt. Damit wird dieser Satz auch für Leserinnen und Leser zugänglich, die mit charakteristischen Funktionen nicht vertraut sind.

In diesem Kapitel lernen wir die wichtigsten Grundbegriffe und Konzepte der Mathematischen Statistik kennen. Hierzu gehören die Begriffe statistisches Modell, Verteilungsannahme, Schätzer, Maximum-Likelihood-Schätzmethode, Konfidenzbereich und statistischer Test. Wünschenswerte Eigenschaften von Schätzern reeller Parameter sind eine kleine mittlere quadratische Abweichung und damit einhergehend Erwartungstreue sowie kleine Varianz. Bei Folgen von Schätzern kommen asymptotische Erwartungstreue und Konsistenz hinzu. Die Cramér-Rao-Ungleichung zeigt, dass die Varianz eines erwartungstreuen Schätzers in einem regulären statistischen Modell durch die Inverse der Fisher-Information nach unten beschränkt ist.