diff --git a/content/Mathematischer_Hintergrund.tex b/content/Mathematischer_Hintergrund.tex index 6f72ebc..11ca296 100644 --- a/content/Mathematischer_Hintergrund.tex +++ b/content/Mathematischer_Hintergrund.tex @@ -36,7 +36,7 @@ Anhand des Galton-Brettes lässt sich nun wie bereits beschrieben leicht erkenne \begin{satz}[Zentraler Grenzwertsatz von de Moivre-Laplace]{satz:moivrelaplace} Sei $S_n \sim \mathcal{B}in_{n,p}$ die Anzahl der Erfolge bei $n$ unabhängigen Bernoulli-Versuchen mit Erfolgswahrscheinlichkeit $p \in (0, 1)$ und sei $q = 1-p$. Für große $n$ lässt sich die Wahrscheinlichkeit, dass $S_n$ genau den Wert $k$ annimmt, durch die Dichtefunktion der Normalverteilung annähern: \[ - P(S_n = k) = \binom{n}{k} p^k q^{n-k} \approx \frac{1}{\sqrt{2\pi npq}} \exp\left(-\frac{(k-np)^2}{2npq}\right) + P(S_n = k) = \binom{n}{k} p^k q^{n-k} \approx \frac{1}{\sqrt{2\pi npq}} e^{\left(-\frac{(k-np)^2}{2npq}\right)} \] \end{satz} \begin{proof} @@ -67,14 +67,14 @@ Anhand des Galton-Brettes lässt sich nun wie bereits beschrieben leicht erkenne \] definieren. Nun nimmt $Z_n$ Werte $z=\frac{k-np}{\sqrt{npq}}$ an, nach $k$ und nach $n-k$ umgestellt heißt das \begin{align*} - k = np + x\sqrt{npq} \\ - n-k = nq - x\sqrt{npq} + k = np + z\sqrt{npq} \\ + n-k = nq - z\sqrt{npq} \end{align*} Nun betrachten wir $k \cdot (n-k)$ für $n \rightarrow \infty$: \begin{align} - k(n-k) &= (np + x\sqrt{npq})\cdot(nq - x\sqrt{npq}) \label{eq3:einsetzen}\\ + k(n-k) &= (np + z\sqrt{npq})\cdot(nq - z\sqrt{npq}) \label{eq3:einsetzen}\\ &= n^2pq + (nz\sqrt{nqp}(q-p)-z^2npq) \label{eq3:umstellen}\\ - &\overset{n\rightarrow\infty}{=}n^2pq \label{eq3:absch} + &\overset{n\rightarrow\infty}{=}n^2pq + O(n) \label{eq3:absch} \end{align} Im Folgenden werden die nummerierten Schritte der Gleichungsketten erläutert: \begin{itemize} @@ -97,37 +97,111 @@ Anhand des Galton-Brettes lässt sich nun wie bereits beschrieben leicht erkenne \end{itemize} Es ist bereits der korrekte konstante Faktor der Gaußschen Glockenkurve erkennbar.\\ \textbf{3. Taylor-Approximation des exponentiellen Teils:} \\ - Den restlichen Term formen wir um, indem wir ihn logarithmieren um im Anschluss die Approximationsformel für den Logarithmus verwenden zu können. Diese wird ebenso wie die Sterling-Formel im Anschluss bewiesen. + Den restlichen Term formen wir um, indem wir ihn logarithmieren um im Anschluss die Approximationsformel für den Logarithmus verwenden zu können. Diese wird ebenso wie die Stirling-Formel im Anschluss bewiesen. Hierzu betrachten wir folgendes zuerst einzeln: \begin{align} - &\ln\left( \left(\frac{k}{np}\right)^{-k} \left(\frac{n-k}{nq}\right)^{-n+k} \right) \\ - &= -k \ln\left(\frac{k}{np}\right) - (n-k) \ln\left(\frac{n-k}{nq}\right) \\ - &= (np + x\sqrt{npq}) \ln\left(\frac{(np + x\sqrt{npq})}{np}\right) - (nq - x\sqrt{npq}) \ln\left(\frac{(nq - x\sqrt{npq})}{nq}\right) \\ - &= (-np - x\sqrt{npq}) \ln\left(1+z\sqrt{\frac{q}{np}}\right) + (-nq + x\sqrt{npq}) \ln\left(1+z\sqrt{\frac{p}{nq}}\right) \label{eq5:3} + &\ln\left( \left(\frac{k}{np}\right)^{-k} \left(\frac{n-k}{nq}\right)^{-n+k} \right) \label{eq5:1} \\ + &= -k \ln\left(\frac{k}{np}\right) - (n-k) \ln\left(\frac{n-k}{nq}\right) \label{eq5:2}\\ + &= -(np + z\sqrt{npq}) \ln\left(\frac{(np + z\sqrt{npq})}{np}\right) - (nq - z\sqrt{npq}) \ln\left(\frac{(nq - z\sqrt{npq})}{nq}\right) \label{eq5:3}\\ + &= (-np - z\sqrt{npq}) \ln\left(1+z\sqrt{\frac{q}{np}}\right) + (-nq + z\sqrt{npq}) \ln\left(1-z\sqrt{\frac{p}{nq}}\right) \label{eq5:4} \end{align} - Die Taylor-Approximation besagt: $ln(1-\alpha) \approx \alpha-\frac{\alpha^2}{2}+O(x^3)$ %Hierbei beschreibt O(x^3) ... - Betrachten wir nun die Logarithmen für die Tailorapproximation näher: + Im Folgenden werden die nummerierten Schritte der Gleichungsketten erläutert: + \begin{itemize} + \item[(\ref{eq5:1})] logarithmieren + \item[(\ref{eq5:2})] Logarithmengesetze für Potenzen anwenden. + \item[(\ref{eq5:3})] Gleichheit für $k$ aus der Standardisierung einsetzen: $k = np + z\sqrt{npq}$. + \item[(\ref{eq5:4})] Distributivgesetz für $-1$ anwenden und Brüche durch Aufteilen der Addition und Einfügen der multiplikativen Identität $\frac{\sqrt{np}}{\sqrt{np}}$ (selbes für $nq$) vereinfachen. + \end{itemize} + Die Taylor-Approximation besagt: $ln(1-\alpha) \approx \alpha-\frac{\alpha^2}{2}+O(\alpha^3)$ Hierbei steht $O(\alpha^3)$ für die Landau-Notation. + Wir definieren + \[ + \beta := \sqrt{\frac{q}{np}}; \quad + \gamma := \sqrt{\frac{p}{nq}} + \] + Um diese Approximation zu verwenden, muss sicher sein, dass $|\alpha| < 1$. Das heißt, dass $\forall z \in \mathbb{R}: |z\cdot\beta| \overset{n\rightarrow\infty}{<}1$. (Für $z\cdot\gamma$ analog)\\ + Sei also $z\in\mathbb{N}$, dann betrachten wir:\\ \begin{align*} - \ln\left(1 + x\sqrt{\frac{q}{np}}\right) &\approx x\sqrt{\frac{q}{np}} - \frac{\left(x\sqrt{\frac{q}{np}}\right)^2}{2} + O(x^3)\\ - &= x\sqrt{\frac{q}{np}} - \frac{x^2 q}{2np} + O(x^3) + |z\cdot\beta| \overset{Def.}{=} \left|z \cdot \sqrt{\frac{q}{np}}\right| = |z|\cdot \frac{1}{\sqrt{n}}\cdot\sqrt{\frac{q}{p}} \xrightarrow{n\rightarrow\infty} 0 < 1 + \end{align*} + Da $p$ und $q$ konstante Parameter sind. + + Betrachten wir nun die Logarithmen für die Taylor-Approximation näher: + \begin{align*} + \ln\left(1 + z\sqrt{\frac{q}{np}}\right) &\approx z\sqrt{\frac{q}{np}} - \frac{\left(z\sqrt{\frac{q}{np}}\right)^2}{2} + O((z\beta)^3)\\ + &= z\sqrt{\frac{q}{np}} - \frac{z^2 q}{2np} + O((z\beta)^3) \end{align*} und für den anderen ln analog: \begin{align*} - \ln\left(1 - x\sqrt{\frac{p}{nq}}\right) &\approx -x\sqrt{\frac{p}{nq}} - \frac{\left(x\sqrt{\frac{p}{nq}}\right)^2}{2} + O(x^3) \\ - &= -x\sqrt{\frac{p}{nq}} - \frac{x^2 p}{2nq} + O(x^3) + \ln\left(1 - z\sqrt{\frac{p}{nq}}\right) &\approx -z\sqrt{\frac{p}{nq}} - \frac{\left(z\sqrt{\frac{p}{nq}}\right)^2}{2} + O((-z\gamma)^3) \\ + &= -z\sqrt{\frac{p}{nq}} - \frac{z^2 p}{2nq} + O((z\gamma)^3) &&\text{- fällt wegen O weg} \end{align*} Setzen wir dies nun zurück in \cref{eq5:3} ein, erhalten wir: \begin{align} - &(-np - x\sqrt{npq}) \ln\left(1+z\sqrt{\frac{q}{np}}\right) + (-nq + x\sqrt{npq}) \ln\left(1+z\sqrt{\frac{p}{nq}}\right) \\ - &=(-np - x\sqrt{npq})(x\sqrt{\frac{q}{np}} - \frac{x^2 q}{2np} + O(3)) + (-nq + x\sqrt{npq}))(-x\sqrt{\frac{p}{nq}} - \frac{x^2 p}{2nq} + O(x^3)) \\ - &=(-npx\sqrt{\frac{q}{np}}+\frac{npx^2q}{2np}-x^2\sqrt{npq}\sqrt{\frac{q}{np}} + O(x^3))+ (nqx\sqrt{\frac{p}{nq}}+\frac{nqx^2p}{2nq}-x^2\sqrt{npq}\sqrt{\frac{p}{nq}} + O(x^3))\\ - &=(-x\sqrt{\frac{(np)^2q}{np}}+\frac{x^2q}{2}-x^2\sqrt{\frac{npq^2}{np}}+O(x^3)) + (x\sqrt{\frac{(nq)^2p}{nq}}+\frac{x^2p}{2}-x\sqrt{\frac{np^2q}{nq}} + O(x^3)) \\ - &=(-x\sqrt{npq}-x^2q+\frac{x^2q}{2} + O(3)) + (x\sqrt{npq}-x^2p-\frac{x^2p}{2} + O(3)) \\ - &\approx (-x\sqrt{npq}-\frac{x^2q}{2}) + (x\sqrt{npq}-\frac{x^2p}{2})\\ - &=-\frac{x^2q}{2}-\frac{x^2p}{2} + &(-np - z\sqrt{npq}) \ln\left(1+z\sqrt{\frac{q}{np}}\right) + (-nq + z\sqrt{npq}) \ln\left(1-z\sqrt{\frac{p}{nq}}\right) \nonumber \\ + &=(-np - z\sqrt{npq})(z\sqrt{\frac{q}{np}} - \frac{z^2 q}{2np} + O((z\beta)^3)) \nonumber \\ &\quad + (-nq + z\sqrt{npq}))(-z\sqrt{\frac{p}{nq}} - \frac{z^2 p}{2nq} + O((z\gamma)^3)) \nonumber \\ + &=(-npz\sqrt{\frac{q}{np}}+\frac{npz^2q}{2np}-z^2\sqrt{npq}\sqrt{\frac{q}{np}} + O((z\beta)^3)) \nonumber\\ &\quad + (nqz\sqrt{\frac{p}{nq}}+\frac{nqz^2p}{2nq}-z^2\sqrt{npq}\sqrt{\frac{p}{nq}} + O((z\gamma)^3))\nonumber \\ &\quad + (-np - z\sqrt{npq}) \cdot O((z\beta)^3) + (-nq + z\sqrt{npq}) \cdot O((z\gamma)^3)\label{eq6:1}\\ + &=(-z\sqrt{\frac{(np)^2q}{np}}+\frac{z^2q}{2}-z^2\sqrt{\frac{npq^2}{np}}+O((z\beta)^3)) \nonumber \\ &\quad + (z\sqrt{\frac{(nq)^2p}{nq}}+\frac{z^2p}{2}-z^2\sqrt{\frac{np^2q}{nq}} + O((z\gamma)^3)) \nonumber \\ &\quad + (-np - z\sqrt{npq}) \cdot O((z\beta)^3) + (-nq + z\sqrt{npq}) \cdot O((z\gamma)^3) \label{eq6:2}\\ + &=(-z\sqrt{npq}-z^2q+\frac{z^2q}{2} + O((z\beta)^3)) + (z\sqrt{npq}-z^2p+\frac{z^2p}{2} + O((z\gamma)^3))\nonumber \\ &\quad + (-np - z\sqrt{npq}) \cdot O((z\beta)^3) + (-nq + z\sqrt{npq}) \cdot O((z\gamma)^3)\label{eq6:3} \\ + &\approx (-z\sqrt{npq}-\frac{z^2q}{2}) + (z\sqrt{npq}-\frac{z^2p}{2})\label{eq6:4}\\ + &=-\frac{z^2q}{2}-\frac{z^2p}{2} = -\frac{z^2}{2}(p+q) \label{eq6:5}\\ + &=-\frac{z^2}{2} \label{eq6:6} + \end{align} %(-np - z\sqrt{npq}) \cdot O((z\beta)^3) + (-nq + z\sqrt{npq}) \cdot O((z\gamma)^3) + Im Folgenden werden die nummerierten Schritte der Gleichungsketten erläutert: + \begin{itemize} + \item[(\ref{eq6:1})] Distributivgesetz + \item[(\ref{eq6:2})] $np$ und $nq$ mithilfe des Quadrates in die Wurzel ziehen, sowie Kürzen und Wurzeln zusammenfassen. Alle Terme mit $z^3$ werden von $O(z^3)$ nach dessen Definition "absorbiert". + \item[(\ref{eq6:3})] $np$ und $nq$ in den Wurzeln Kürzen und Kommutativgesetz anwenden + \item[(\ref{eq6:4})] Die Landau Terme ($O(z^3)$) können vernachlässigt werden, da diese Terme für $n\rightarrow\infty$ gegen 0 gehen. Betrachte Hierzu \cref{lem:restterme} und \cref{prop:restterme2}. + \item[(\ref{eq6:5})] $-z\sqrt{npq}+z\sqrt{npq}=0$ und Distributivgesetz (invers) + \item[(\ref{eq6:6})] $p+q=1$ da $q = 1-p$ definiert wurde. + \end{itemize} + Da $e^{ln(l)} = l$ setzen wir nun $e^{-\frac{z^2}{2}}$ in \cref{eq4:3} ein kommen wir zum finalen Ergebnis: + \begin{align} + P(S_n = k) &\approx \frac{1}{\sqrt{2\pi npq}}e^{-\frac{z^2}{2}} \nonumber \\ + &= \frac{1}{\sqrt{2\pi npq}}e^{-\frac{\left(\frac{k-np}{\sqrt{npq}}\right)^2}{2}} \label{eq7:1} \\ + &= \frac{1}{\sqrt{2\pi npq}}e^{\left(-\frac{(k-np)^2}{2npq}\right)} \label{eq7:2} \end{align} - %isso falsch! die ergebnisse kommen ins e^ + Im Folgenden werden die nummerierten Schritte der Gleichungsketten erläutert: + \begin{itemize} + \item[(\ref{eq7:1})] Rücksubstitution der Standardisierung. + \item[(\ref{eq7:2})] Der Bruch wurde quadriert und zusammengefasst. + \end{itemize} + Daher konvergiert eine Binomialverteilte Zufallsvariable (für $n\rightarrow\infty$) gegen die Standardnormalverteilung. \end{proof} +\begin{lemma}[Asymptotisches Verschwinden der Taylor-Restterme mit Präfix]{restterme} + Seien $p \in (0,1)$, $q = 1-p$ und $z \in \mathbb{R}$ fest gewählt. Für die Restterme der Taylor-Entwicklung des Logarithmus multipliziert mit ihren jeweiligen Vorfaktoren gilt für $n \rightarrow \infty$: + \[ + (-np - z\sqrt{npq}) \cdot O((z\beta)^3) + (-nq + z\sqrt{npq}) \cdot O((z\gamma)^3) \xrightarrow{n \rightarrow \infty} 0 + \] + wobei $\beta = \sqrt{\frac{q}{np}}$ und $\gamma = \sqrt{\frac{p}{nq}}$ definiert sind. +\end{lemma} +\begin{proof} + Wir betrachten exemplarisch den ersten Summanden (der zweite verhält sich vollkommen analog). Da $\beta = \sqrt{\frac{q}{np}}$, verhält sich der Restterm dritter Ordnung bezüglich $n$ wie folgt: + \[ + O((z\beta)^3) = O\left(z^3\cdot\left(\sqrt{\frac{q}{np}}\right)^3\right) = O\left(\frac{z^3 q^{3/2}}{p^{3/2}}\cdot\frac{1}{n^{3/2}}\right) \subseteq O\left(n^{-3/2}\right) + \] + Nach der Definition der Landau-Notation existiert für hinreichend große $n$ eine Konstante $C > 0$, sodass der Betrag dieses Restterms durch $C \cdot n^{-3/2}$ nach oben beschränkt ist. + Multiplizieren wir dies mit dem Betrag des Vorfaktors, erhalten wir mithilfe der Dreiecksungleichung: + \begin{align*} + \left| (-np - z\sqrt{npq}) \cdot O((z\beta)^3) \right| &\leq (np + |z|\sqrt{npq}) \cdot C \cdot n^{-3/2} \\ + &= C \cdot np \cdot n^{-3/2} + C \cdot |z|\sqrt{npq} \cdot n^{-3/2} \\ + &= C \cdot p \cdot \frac{1}{\sqrt{n}} + C \cdot |z|\sqrt{pq} \cdot \frac{1}{n} + \end{align*} + Da $C, p, q$ und $z$ von $n$ unabhängige Konstanten sind und $n$ im Nenner unbegrenzt wächst, strebt dieser Ausdruck für $n \to \infty$ gegen: + \[ + 0 + 0 = 0 + \] + Für den zweiten Term mit $\gamma$ erfolgt der Beweis völlig analog, womit die Summe beider Terme ebenfalls gegen $0$ konvergiert. +\end{proof} + +Folgende Proposition ich leicht aus dem oberen Beweis ableitbar (aufgrund der Abschätzung mit $n^{-3/2}$) und wird daher nicht separat bewiesen. +\begin{proposition}[Asymptotisches Verschwinden der Taylor-Restterme ohne Präfix]{restterme2} + Seien $p \in (0,1)$, $q = 1-p$ und $z \in \mathbb{R}$ fest gewählt. Für die Restterme der Taylor-Entwicklung des Logarithmus gilt für $n \rightarrow \infty$: + \[ + O((z\beta)^3) + O((z\gamma)^3) \xrightarrow{n \rightarrow \infty} 0 + \] + wobei $\beta = \sqrt{\frac{q}{np}}$ und $\gamma = \sqrt{\frac{p}{nq}}$ definiert sind. +\end{proposition} % Teilsortiert: diff --git a/galton.pdf b/galton.pdf index a3e0a73..4e3104f 100644 Binary files a/galton.pdf and b/galton.pdf differ