Twierdzenie Berry-Essena

Twierdzenie Berry’ego-Esseena – twierdzenie rachunku prawdopodobieństwa, które daje pewne oszacowanie szybkości zbieżności w centralnym twierdzeniu granicznym.

Motywacja

Centralne twierdzenie graniczne (w wersji dla niezależnych zmiennych losowych o jednakowym rozkładzie) mówi w istocie, że

P ( X 1 + X 2 + + X n σ n t ) ϕ ( t ) {\displaystyle {\mathsf {P}}\left({\frac {X_{1}+X_{2}+\ldots +X_{n}}{\sigma {\sqrt {n}}}}\leqslant t\right)\to \phi (t)}

gdy n . {\displaystyle n\to \infty .} Naturalnym jest pytanie o odległość tych dwóch funkcji w normie supremum i badanie jak maleje ona wraz z n . {\displaystyle n.} Całkiem satysfakcjonującą odpowiedź na nie daje nierówność Berry’ego-Esseena: jedynym dodatkowym wymaganiem jest skończoność trzeciego momentu modułu zmiennej.

Twierdzenie

Niech X 1 , X 2 , X n {\displaystyle X_{1},X_{2},\dots X_{n}} będą takimi niezależnymi zmiennymi losowymi określonymi na wspólnej przestrzeni probabilistycznej, że

  • E X i = 0 , {\displaystyle {\mathsf {E}}X_{i}=0,}
  • i = 1 n V a r ( X i ) = 1 , {\displaystyle \sum _{i=1}^{n}{\mathsf {Var}}(X_{i})=1,}
  • E | X i | 3 < {\displaystyle {\mathsf {E}}|X_{i}|^{3}<\infty } dla każdego i n . {\displaystyle i\leqslant n.}

Wówczas istnieje taka stała L 0 , {\displaystyle L\geqslant 0,} że

sup t | P ( i = 1 n X i t ) ϕ ( t ) | L i = 1 n E | X i | 3 . {\displaystyle \sup _{t}\left|{\mathsf {P}}\left(\sum _{i=1}^{n}X_{i}\leqslant t\right)-\phi (t)\right|\leqslant L\cdot \sum _{i=1}^{n}{\mathsf {E}}|X_{i}|^{3}.}

Wniosek

Jako wniosek można przedstawić nieco inne, niekiedy dogodniejsze, sformułowanie twierdzenia.

Niech X , X 1 , X 2 , , X n {\displaystyle X,X_{1},X_{2},\dots ,X_{n}} będą jednakowymi niezależnymi zmiennymi losowymi o średniej zero, wariancji równej σ 2 {\displaystyle \sigma ^{2}} i dla których E | X | 3 < . {\displaystyle {\mathsf {E}}|X|^{3}<\infty .}

Wówczas

sup t | P ( i = 1 n X i σ n t ) ϕ ( t ) | L E | X | 3 σ 3 n {\displaystyle \sup _{t}\left|{\mathsf {P}}\left({\frac {\sum _{i=1}^{n}X_{i}}{\sigma {\sqrt {n}}}}\leqslant t\right)-\phi (t)\right|\leqslant L\cdot {\frac {{\mathsf {E}}|X|^{3}}{\sigma ^{3}{\sqrt {n}}}}} [1].

Dowód wniosku

Niech X i ~ = X i σ n , {\displaystyle {\tilde {X_{i}}}={\frac {X_{i}}{\sigma {\sqrt {n}}}},} przez co

i = 1 n E X i ~ 2 = 1. {\displaystyle \sum _{i=1}^{n}{\mathsf {E}}{\tilde {X_{i}}}^{2}=1.}

Zmienne X i ~ {\displaystyle {\tilde {X_{i}}}} spełniają wtedy założenia twierdzenia i zastosowanie go daje tezę wniosku, gdyż

i = 1 n E | X i ~ | 3 = 1 σ 3 n 3 2 n E | X | 3 = E | X | 3 σ 3 n . {\displaystyle \sum _{i=1}^{n}{\mathsf {E}}|{\tilde {X_{i}}}|^{3}={\frac {1}{\sigma ^{3}n^{\frac {3}{2}}}}n{\mathsf {E}}|X|^{3}={\frac {{\mathsf {E}}|X|^{3}}{\sigma ^{3}{\sqrt {n}}}}.}

Uwagi

Stała L jest szacowana z coraz większą dokładnością, poczynając od L = 0.7975 {\displaystyle L=0.7975} (von Beek, 1972[2]), przez L = 0.7655 {\displaystyle L=0.7655} (Shiganov, 1986[3]), L = 0.7056 {\displaystyle L=0.7056} (Shevtsova, 2007[4]), L = 0.5129 {\displaystyle L=0.5129} (Shevtsova, 2008[5]), aż do L = 0.6379 {\displaystyle L=0.6379} w przypadku ogólnym oraz L = 0.5894 {\displaystyle L=0.5894} dla sumy zmiennych o takich samych rozkładach (Tyurin, 2009[6]).

Oszacowanie jest asymptotycznie dobre, istnieje przykład pokazujący, że stała L {\displaystyle L} z twierdzenia musi spełniać nierówność

L 1 2 π 0 , 4. {\displaystyle L\geqslant {\frac {1}{\sqrt {2\pi }}}\approx 0{,}4.}

Przykład

Ponieważ prawdziwość twierdzenia Berry’ego-Esseena ze stałą L {\displaystyle L} implikuje prawdziwość wniosku dla jednakowych, niezależnych zmiennych losowych ze stałą L {\displaystyle L} to dla wskazania kontrprzykładu dla pewnej stałej wystarczy wskazać kontrprzykład dla tej stałej dla wniosku.

Niech X , X 1 , X 2 , , X n {\displaystyle X,X_{1},X_{2},\dots ,X_{n}} będą jednakowymi, niezależnymi zmiennymi losowymi takimi, że P ( X = ± 1 ) = 1 2 . {\displaystyle {\mathsf {P}}(X=\pm 1)={\tfrac {1}{2}}.} Wówczas σ 2 = 1. {\displaystyle \sigma ^{2}=1.} Niech n = 2 k , k Z . {\displaystyle n=2k,k\in \mathbb {Z} .}

Wówczas

P ( X 1 + + X n n 0 ) ϕ ( 0 ) = 1 + P ( X 1 + + X n = 0 ) 2 1 2 = 1 2 P ( X 1 + + X n = 0 ) = 1 2 2 2 k ( 2 k k ) . {\displaystyle {\begin{aligned}&{\mathsf {P}}\left({\frac {X_{1}+\ldots +X_{n}}{\sqrt {n}}}\leqslant 0\right)-\phi (0)\\={}&{\frac {1+{\mathsf {P}}(X_{1}+\ldots +X_{n}=0)}{2}}-{\frac {1}{2}}\\={}&{\tfrac {1}{2}}{\mathsf {P}}(X_{1}+\ldots +X_{n}=0)={\tfrac {1}{2}}2^{-2k}{\tbinom {2k}{k}}.\end{aligned}}}

Ze wzoru Stirlinga wynika

n ! = 2 π n ( n e ) n ( 1 + O ( 1 n ) ) . {\displaystyle n!={\sqrt {2\pi n}}({\tfrac {n}{e}})^{n}(1+O({\tfrac {1}{n}})).}

Zatem

2 2 k ( 2 k k ) = 2 2 k ( 2 k ) ! ( k ! ) 2 = 2 2 k 4 π n 2 π n ( 2 k e ) 2 k ( k e ) 2 k ( 1 + O ( 1 n ) ) = 1 n k ( 1 + O ( 1 n ) ) . {\displaystyle 2^{-2k}{\tbinom {2k}{k}}=2^{-2k}{\frac {(2k)!}{(k!)^{2}}}=2^{-2k}{\frac {\sqrt {4\pi n}}{2\pi n}}{\frac {({\frac {2k}{e}})^{2k}}{({\frac {k}{e}})^{2k}}}(1+O({\tfrac {1}{n}}))={\frac {1}{\sqrt {nk}}}(1+O({\tfrac {1}{n}})).}

Stąd zaś

P ( X 1 + + X n n 0 ) ϕ ( 0 ) = 1 2 π n ( 1 + O ( 1 n ) ) , {\displaystyle {\mathsf {P}}\left({\frac {X_{1}+\ldots +X_{n}}{\sqrt {n}}}\leqslant 0\right)-\phi (0)={\frac {1}{\sqrt {2\pi n}}}(1+O({\tfrac {1}{n}})),}

co jest oszacowaniem dolnym L , {\displaystyle L,} które wynosi 1 2 π . {\displaystyle {\tfrac {1}{\sqrt {2\pi }}}.}

Przypisy

  1. Yu.V. Prokhorov, V. Statulevicius: Limit Theorems of Probability Theory. Springer Science & Business Media, 2013, s. 4.
  2. P. van Beek, An application of Fourier methods to the problem of sharpening the Berry–Esseen inequality, Zeitschrift für Wahrscheinlichkeitstheorie und verwandte Gebiete, 1972.
  3. I.S. Shiganov, Refinement of the upper bound of a constant in the remainder term of the central limit theorem, Journal of Soviet mathematics, 1986.
  4. I. G. Shevtsova, Sharpening of the upper bound of the absolute constant in the Berry–Esseen inequality, Theory of Probability and its Applications, 2007.
  5. I. G. Shevtsova, On the absolute constant in the Berry-Esseen inequality, The Collection of Papers of Young Scientists of the Faculty of Computational Mathematics and CyberneticsTheory of Probability and its Applications 2008.
  6. I.S. Tyurin, On the accuracy of the Gaussian approximation, Doklady Mathematics 2009.

Linki zewnętrzne

  • Chen, Po-Ning (2002). Asymptotic Refinement of the Berry-Esseen Constant