Beweis Zentraler Grenzwertsatz Fertig
This commit is contained in:
@@ -36,7 +36,7 @@ Anhand des Galton-Brettes lässt sich nun wie bereits beschrieben leicht erkenne
|
||||
\begin{satz}[Zentraler Grenzwertsatz von de Moivre-Laplace]{satz:moivrelaplace}
|
||||
Sei $S_n \sim \mathcal{B}in_{n,p}$ die Anzahl der Erfolge bei $n$ unabhängigen Bernoulli-Versuchen mit Erfolgswahrscheinlichkeit $p \in (0, 1)$ und sei $q = 1-p$. Für große $n$ lässt sich die Wahrscheinlichkeit, dass $S_n$ genau den Wert $k$ annimmt, durch die Dichtefunktion der Normalverteilung annähern:
|
||||
\[
|
||||
P(S_n = k) = \binom{n}{k} p^k q^{n-k} \approx \frac{1}{\sqrt{2\pi npq}} \exp\left(-\frac{(k-np)^2}{2npq}\right)
|
||||
P(S_n = k) = \binom{n}{k} p^k q^{n-k} \approx \frac{1}{\sqrt{2\pi npq}} e^{\left(-\frac{(k-np)^2}{2npq}\right)}
|
||||
\]
|
||||
\end{satz}
|
||||
\begin{proof}
|
||||
@@ -67,14 +67,14 @@ Anhand des Galton-Brettes lässt sich nun wie bereits beschrieben leicht erkenne
|
||||
\]
|
||||
definieren. Nun nimmt $Z_n$ Werte $z=\frac{k-np}{\sqrt{npq}}$ an, nach $k$ und nach $n-k$ umgestellt heißt das
|
||||
\begin{align*}
|
||||
k = np + x\sqrt{npq} \\
|
||||
n-k = nq - x\sqrt{npq}
|
||||
k = np + z\sqrt{npq} \\
|
||||
n-k = nq - z\sqrt{npq}
|
||||
\end{align*}
|
||||
Nun betrachten wir $k \cdot (n-k)$ für $n \rightarrow \infty$:
|
||||
\begin{align}
|
||||
k(n-k) &= (np + x\sqrt{npq})\cdot(nq - x\sqrt{npq}) \label{eq3:einsetzen}\\
|
||||
k(n-k) &= (np + z\sqrt{npq})\cdot(nq - z\sqrt{npq}) \label{eq3:einsetzen}\\
|
||||
&= n^2pq + (nz\sqrt{nqp}(q-p)-z^2npq) \label{eq3:umstellen}\\
|
||||
&\overset{n\rightarrow\infty}{=}n^2pq \label{eq3:absch}
|
||||
&\overset{n\rightarrow\infty}{=}n^2pq + O(n) \label{eq3:absch}
|
||||
\end{align}
|
||||
Im Folgenden werden die nummerierten Schritte der Gleichungsketten erläutert:
|
||||
\begin{itemize}
|
||||
@@ -97,37 +97,111 @@ Anhand des Galton-Brettes lässt sich nun wie bereits beschrieben leicht erkenne
|
||||
\end{itemize}
|
||||
Es ist bereits der korrekte konstante Faktor der Gaußschen Glockenkurve erkennbar.\\
|
||||
\textbf{3. Taylor-Approximation des exponentiellen Teils:} \\
|
||||
Den restlichen Term formen wir um, indem wir ihn logarithmieren um im Anschluss die Approximationsformel für den Logarithmus verwenden zu können. Diese wird ebenso wie die Sterling-Formel im Anschluss bewiesen.
|
||||
Den restlichen Term formen wir um, indem wir ihn logarithmieren um im Anschluss die Approximationsformel für den Logarithmus verwenden zu können. Diese wird ebenso wie die Stirling-Formel im Anschluss bewiesen.
|
||||
Hierzu betrachten wir folgendes zuerst einzeln:
|
||||
\begin{align}
|
||||
&\ln\left( \left(\frac{k}{np}\right)^{-k} \left(\frac{n-k}{nq}\right)^{-n+k} \right) \\
|
||||
&= -k \ln\left(\frac{k}{np}\right) - (n-k) \ln\left(\frac{n-k}{nq}\right) \\
|
||||
&= (np + x\sqrt{npq}) \ln\left(\frac{(np + x\sqrt{npq})}{np}\right) - (nq - x\sqrt{npq}) \ln\left(\frac{(nq - x\sqrt{npq})}{nq}\right) \\
|
||||
&= (-np - x\sqrt{npq}) \ln\left(1+z\sqrt{\frac{q}{np}}\right) + (-nq + x\sqrt{npq}) \ln\left(1+z\sqrt{\frac{p}{nq}}\right) \label{eq5:3}
|
||||
&\ln\left( \left(\frac{k}{np}\right)^{-k} \left(\frac{n-k}{nq}\right)^{-n+k} \right) \label{eq5:1} \\
|
||||
&= -k \ln\left(\frac{k}{np}\right) - (n-k) \ln\left(\frac{n-k}{nq}\right) \label{eq5:2}\\
|
||||
&= -(np + z\sqrt{npq}) \ln\left(\frac{(np + z\sqrt{npq})}{np}\right) - (nq - z\sqrt{npq}) \ln\left(\frac{(nq - z\sqrt{npq})}{nq}\right) \label{eq5:3}\\
|
||||
&= (-np - z\sqrt{npq}) \ln\left(1+z\sqrt{\frac{q}{np}}\right) + (-nq + z\sqrt{npq}) \ln\left(1-z\sqrt{\frac{p}{nq}}\right) \label{eq5:4}
|
||||
\end{align}
|
||||
Die Taylor-Approximation besagt: $ln(1-\alpha) \approx \alpha-\frac{\alpha^2}{2}+O(x^3)$ %Hierbei beschreibt O(x^3) ...
|
||||
Betrachten wir nun die Logarithmen für die Tailorapproximation näher:
|
||||
Im Folgenden werden die nummerierten Schritte der Gleichungsketten erläutert:
|
||||
\begin{itemize}
|
||||
\item[(\ref{eq5:1})] logarithmieren
|
||||
\item[(\ref{eq5:2})] Logarithmengesetze für Potenzen anwenden.
|
||||
\item[(\ref{eq5:3})] Gleichheit für $k$ aus der Standardisierung einsetzen: $k = np + z\sqrt{npq}$.
|
||||
\item[(\ref{eq5:4})] Distributivgesetz für $-1$ anwenden und Brüche durch Aufteilen der Addition und Einfügen der multiplikativen Identität $\frac{\sqrt{np}}{\sqrt{np}}$ (selbes für $nq$) vereinfachen.
|
||||
\end{itemize}
|
||||
Die Taylor-Approximation besagt: $ln(1-\alpha) \approx \alpha-\frac{\alpha^2}{2}+O(\alpha^3)$ Hierbei steht $O(\alpha^3)$ für die Landau-Notation.
|
||||
Wir definieren
|
||||
\[
|
||||
\beta := \sqrt{\frac{q}{np}}; \quad
|
||||
\gamma := \sqrt{\frac{p}{nq}}
|
||||
\]
|
||||
Um diese Approximation zu verwenden, muss sicher sein, dass $|\alpha| < 1$. Das heißt, dass $\forall z \in \mathbb{R}: |z\cdot\beta| \overset{n\rightarrow\infty}{<}1$. (Für $z\cdot\gamma$ analog)\\
|
||||
Sei also $z\in\mathbb{N}$, dann betrachten wir:\\
|
||||
\begin{align*}
|
||||
\ln\left(1 + x\sqrt{\frac{q}{np}}\right) &\approx x\sqrt{\frac{q}{np}} - \frac{\left(x\sqrt{\frac{q}{np}}\right)^2}{2} + O(x^3)\\
|
||||
&= x\sqrt{\frac{q}{np}} - \frac{x^2 q}{2np} + O(x^3)
|
||||
|z\cdot\beta| \overset{Def.}{=} \left|z \cdot \sqrt{\frac{q}{np}}\right| = |z|\cdot \frac{1}{\sqrt{n}}\cdot\sqrt{\frac{q}{p}} \xrightarrow{n\rightarrow\infty} 0 < 1
|
||||
\end{align*}
|
||||
Da $p$ und $q$ konstante Parameter sind.
|
||||
|
||||
Betrachten wir nun die Logarithmen für die Taylor-Approximation näher:
|
||||
\begin{align*}
|
||||
\ln\left(1 + z\sqrt{\frac{q}{np}}\right) &\approx z\sqrt{\frac{q}{np}} - \frac{\left(z\sqrt{\frac{q}{np}}\right)^2}{2} + O((z\beta)^3)\\
|
||||
&= z\sqrt{\frac{q}{np}} - \frac{z^2 q}{2np} + O((z\beta)^3)
|
||||
\end{align*}
|
||||
und für den anderen ln analog:
|
||||
\begin{align*}
|
||||
\ln\left(1 - x\sqrt{\frac{p}{nq}}\right) &\approx -x\sqrt{\frac{p}{nq}} - \frac{\left(x\sqrt{\frac{p}{nq}}\right)^2}{2} + O(x^3) \\
|
||||
&= -x\sqrt{\frac{p}{nq}} - \frac{x^2 p}{2nq} + O(x^3)
|
||||
\ln\left(1 - z\sqrt{\frac{p}{nq}}\right) &\approx -z\sqrt{\frac{p}{nq}} - \frac{\left(z\sqrt{\frac{p}{nq}}\right)^2}{2} + O((-z\gamma)^3) \\
|
||||
&= -z\sqrt{\frac{p}{nq}} - \frac{z^2 p}{2nq} + O((z\gamma)^3) &&\text{- fällt wegen O weg}
|
||||
\end{align*}
|
||||
Setzen wir dies nun zurück in \cref{eq5:3} ein, erhalten wir:
|
||||
\begin{align}
|
||||
&(-np - x\sqrt{npq}) \ln\left(1+z\sqrt{\frac{q}{np}}\right) + (-nq + x\sqrt{npq}) \ln\left(1+z\sqrt{\frac{p}{nq}}\right) \\
|
||||
&=(-np - x\sqrt{npq})(x\sqrt{\frac{q}{np}} - \frac{x^2 q}{2np} + O(3)) + (-nq + x\sqrt{npq}))(-x\sqrt{\frac{p}{nq}} - \frac{x^2 p}{2nq} + O(x^3)) \\
|
||||
&=(-npx\sqrt{\frac{q}{np}}+\frac{npx^2q}{2np}-x^2\sqrt{npq}\sqrt{\frac{q}{np}} + O(x^3))+ (nqx\sqrt{\frac{p}{nq}}+\frac{nqx^2p}{2nq}-x^2\sqrt{npq}\sqrt{\frac{p}{nq}} + O(x^3))\\
|
||||
&=(-x\sqrt{\frac{(np)^2q}{np}}+\frac{x^2q}{2}-x^2\sqrt{\frac{npq^2}{np}}+O(x^3)) + (x\sqrt{\frac{(nq)^2p}{nq}}+\frac{x^2p}{2}-x\sqrt{\frac{np^2q}{nq}} + O(x^3)) \\
|
||||
&=(-x\sqrt{npq}-x^2q+\frac{x^2q}{2} + O(3)) + (x\sqrt{npq}-x^2p-\frac{x^2p}{2} + O(3)) \\
|
||||
&\approx (-x\sqrt{npq}-\frac{x^2q}{2}) + (x\sqrt{npq}-\frac{x^2p}{2})\\
|
||||
&=-\frac{x^2q}{2}-\frac{x^2p}{2}
|
||||
&(-np - z\sqrt{npq}) \ln\left(1+z\sqrt{\frac{q}{np}}\right) + (-nq + z\sqrt{npq}) \ln\left(1-z\sqrt{\frac{p}{nq}}\right) \nonumber \\
|
||||
&=(-np - z\sqrt{npq})(z\sqrt{\frac{q}{np}} - \frac{z^2 q}{2np} + O((z\beta)^3)) \nonumber \\ &\quad + (-nq + z\sqrt{npq}))(-z\sqrt{\frac{p}{nq}} - \frac{z^2 p}{2nq} + O((z\gamma)^3)) \nonumber \\
|
||||
&=(-npz\sqrt{\frac{q}{np}}+\frac{npz^2q}{2np}-z^2\sqrt{npq}\sqrt{\frac{q}{np}} + O((z\beta)^3)) \nonumber\\ &\quad + (nqz\sqrt{\frac{p}{nq}}+\frac{nqz^2p}{2nq}-z^2\sqrt{npq}\sqrt{\frac{p}{nq}} + O((z\gamma)^3))\nonumber \\ &\quad + (-np - z\sqrt{npq}) \cdot O((z\beta)^3) + (-nq + z\sqrt{npq}) \cdot O((z\gamma)^3)\label{eq6:1}\\
|
||||
&=(-z\sqrt{\frac{(np)^2q}{np}}+\frac{z^2q}{2}-z^2\sqrt{\frac{npq^2}{np}}+O((z\beta)^3)) \nonumber \\ &\quad + (z\sqrt{\frac{(nq)^2p}{nq}}+\frac{z^2p}{2}-z^2\sqrt{\frac{np^2q}{nq}} + O((z\gamma)^3)) \nonumber \\ &\quad + (-np - z\sqrt{npq}) \cdot O((z\beta)^3) + (-nq + z\sqrt{npq}) \cdot O((z\gamma)^3) \label{eq6:2}\\
|
||||
&=(-z\sqrt{npq}-z^2q+\frac{z^2q}{2} + O((z\beta)^3)) + (z\sqrt{npq}-z^2p+\frac{z^2p}{2} + O((z\gamma)^3))\nonumber \\ &\quad + (-np - z\sqrt{npq}) \cdot O((z\beta)^3) + (-nq + z\sqrt{npq}) \cdot O((z\gamma)^3)\label{eq6:3} \\
|
||||
&\approx (-z\sqrt{npq}-\frac{z^2q}{2}) + (z\sqrt{npq}-\frac{z^2p}{2})\label{eq6:4}\\
|
||||
&=-\frac{z^2q}{2}-\frac{z^2p}{2} = -\frac{z^2}{2}(p+q) \label{eq6:5}\\
|
||||
&=-\frac{z^2}{2} \label{eq6:6}
|
||||
\end{align} %(-np - z\sqrt{npq}) \cdot O((z\beta)^3) + (-nq + z\sqrt{npq}) \cdot O((z\gamma)^3)
|
||||
Im Folgenden werden die nummerierten Schritte der Gleichungsketten erläutert:
|
||||
\begin{itemize}
|
||||
\item[(\ref{eq6:1})] Distributivgesetz
|
||||
\item[(\ref{eq6:2})] $np$ und $nq$ mithilfe des Quadrates in die Wurzel ziehen, sowie Kürzen und Wurzeln zusammenfassen. Alle Terme mit $z^3$ werden von $O(z^3)$ nach dessen Definition "absorbiert".
|
||||
\item[(\ref{eq6:3})] $np$ und $nq$ in den Wurzeln Kürzen und Kommutativgesetz anwenden
|
||||
\item[(\ref{eq6:4})] Die Landau Terme ($O(z^3)$) können vernachlässigt werden, da diese Terme für $n\rightarrow\infty$ gegen 0 gehen. Betrachte Hierzu \cref{lem:restterme} und \cref{prop:restterme2}.
|
||||
\item[(\ref{eq6:5})] $-z\sqrt{npq}+z\sqrt{npq}=0$ und Distributivgesetz (invers)
|
||||
\item[(\ref{eq6:6})] $p+q=1$ da $q = 1-p$ definiert wurde.
|
||||
\end{itemize}
|
||||
Da $e^{ln(l)} = l$ setzen wir nun $e^{-\frac{z^2}{2}}$ in \cref{eq4:3} ein kommen wir zum finalen Ergebnis:
|
||||
\begin{align}
|
||||
P(S_n = k) &\approx \frac{1}{\sqrt{2\pi npq}}e^{-\frac{z^2}{2}} \nonumber \\
|
||||
&= \frac{1}{\sqrt{2\pi npq}}e^{-\frac{\left(\frac{k-np}{\sqrt{npq}}\right)^2}{2}} \label{eq7:1} \\
|
||||
&= \frac{1}{\sqrt{2\pi npq}}e^{\left(-\frac{(k-np)^2}{2npq}\right)} \label{eq7:2}
|
||||
\end{align}
|
||||
%isso falsch! die ergebnisse kommen ins e^
|
||||
Im Folgenden werden die nummerierten Schritte der Gleichungsketten erläutert:
|
||||
\begin{itemize}
|
||||
\item[(\ref{eq7:1})] Rücksubstitution der Standardisierung.
|
||||
\item[(\ref{eq7:2})] Der Bruch wurde quadriert und zusammengefasst.
|
||||
\end{itemize}
|
||||
Daher konvergiert eine Binomialverteilte Zufallsvariable (für $n\rightarrow\infty$) gegen die Standardnormalverteilung.
|
||||
\end{proof}
|
||||
\begin{lemma}[Asymptotisches Verschwinden der Taylor-Restterme mit Präfix]{restterme}
|
||||
Seien $p \in (0,1)$, $q = 1-p$ und $z \in \mathbb{R}$ fest gewählt. Für die Restterme der Taylor-Entwicklung des Logarithmus multipliziert mit ihren jeweiligen Vorfaktoren gilt für $n \rightarrow \infty$:
|
||||
\[
|
||||
(-np - z\sqrt{npq}) \cdot O((z\beta)^3) + (-nq + z\sqrt{npq}) \cdot O((z\gamma)^3) \xrightarrow{n \rightarrow \infty} 0
|
||||
\]
|
||||
wobei $\beta = \sqrt{\frac{q}{np}}$ und $\gamma = \sqrt{\frac{p}{nq}}$ definiert sind.
|
||||
\end{lemma}
|
||||
\begin{proof}
|
||||
Wir betrachten exemplarisch den ersten Summanden (der zweite verhält sich vollkommen analog). Da $\beta = \sqrt{\frac{q}{np}}$, verhält sich der Restterm dritter Ordnung bezüglich $n$ wie folgt:
|
||||
\[
|
||||
O((z\beta)^3) = O\left(z^3\cdot\left(\sqrt{\frac{q}{np}}\right)^3\right) = O\left(\frac{z^3 q^{3/2}}{p^{3/2}}\cdot\frac{1}{n^{3/2}}\right) \subseteq O\left(n^{-3/2}\right)
|
||||
\]
|
||||
Nach der Definition der Landau-Notation existiert für hinreichend große $n$ eine Konstante $C > 0$, sodass der Betrag dieses Restterms durch $C \cdot n^{-3/2}$ nach oben beschränkt ist.
|
||||
Multiplizieren wir dies mit dem Betrag des Vorfaktors, erhalten wir mithilfe der Dreiecksungleichung:
|
||||
\begin{align*}
|
||||
\left| (-np - z\sqrt{npq}) \cdot O((z\beta)^3) \right| &\leq (np + |z|\sqrt{npq}) \cdot C \cdot n^{-3/2} \\
|
||||
&= C \cdot np \cdot n^{-3/2} + C \cdot |z|\sqrt{npq} \cdot n^{-3/2} \\
|
||||
&= C \cdot p \cdot \frac{1}{\sqrt{n}} + C \cdot |z|\sqrt{pq} \cdot \frac{1}{n}
|
||||
\end{align*}
|
||||
Da $C, p, q$ und $z$ von $n$ unabhängige Konstanten sind und $n$ im Nenner unbegrenzt wächst, strebt dieser Ausdruck für $n \to \infty$ gegen:
|
||||
\[
|
||||
0 + 0 = 0
|
||||
\]
|
||||
Für den zweiten Term mit $\gamma$ erfolgt der Beweis völlig analog, womit die Summe beider Terme ebenfalls gegen $0$ konvergiert.
|
||||
\end{proof}
|
||||
|
||||
Folgende Proposition ich leicht aus dem oberen Beweis ableitbar (aufgrund der Abschätzung mit $n^{-3/2}$) und wird daher nicht separat bewiesen.
|
||||
\begin{proposition}[Asymptotisches Verschwinden der Taylor-Restterme ohne Präfix]{restterme2}
|
||||
Seien $p \in (0,1)$, $q = 1-p$ und $z \in \mathbb{R}$ fest gewählt. Für die Restterme der Taylor-Entwicklung des Logarithmus gilt für $n \rightarrow \infty$:
|
||||
\[
|
||||
O((z\beta)^3) + O((z\gamma)^3) \xrightarrow{n \rightarrow \infty} 0
|
||||
\]
|
||||
wobei $\beta = \sqrt{\frac{q}{np}}$ und $\gamma = \sqrt{\frac{p}{nq}}$ definiert sind.
|
||||
\end{proposition}
|
||||
|
||||
|
||||
% Teilsortiert:
|
||||
|
||||
BIN
Binary file not shown.
Reference in New Issue
Block a user