Inégalité de Bousquet

L'inégalité de Bousquet est une inégalité de concentration du supremum d'une somme de variables indexé par un ensemble quelconque établie par Bousquet[1]. Ce résultat ressemble à l'inégalité de Bennett et donne la déviation du supremum d'un processus empirique par rapport à sa moyenne.

Énoncé

On peut retrouver les énoncés dans l'article de Bousquet ou le livre de Boucheron, Lugosi et Massart[2]. Soient X 1 , s , , X n , s {\displaystyle X_{1,s},\dots ,X_{n,s}} des variables aléatoires réelles i.i.d. indexés par s T {\displaystyle s\in T} . On suppose que les variables sont centrées et majorées par 1, i.e. E [ X i , s ] = 0 {\displaystyle \mathbb {E} [X_{i,s}]=0} et | X i , s | 1 {\displaystyle |X_{i,s}|\leq 1} pour tout i = 1 , , n {\displaystyle i=1,\dots ,n} et s T {\displaystyle s\in T} . On note Z = sup s T i = 1 n X i , s {\displaystyle Z=\sup _{s\in T}\sum _{i=1}^{n}X_{i,s}} . Alors pour tout λ , t 0 {\displaystyle \lambda ,t\geq 0} ,

log E e λ ( Z E Z ) v ϕ ( λ ) P ( Z E Z + t ) e v h ( t / v ) {\displaystyle {\begin{aligned}\log \mathbb {E} e^{\lambda (Z-\mathbb {E} Z)}&\leq v\phi (\lambda )\\\mathbb {P} (Z\geq \mathbb {E} Z+t)&\leq e^{-vh(t/v)}\end{aligned}}}

ϕ ( u ) = e u u 1 , h ( u ) = ( 1 + u ) log ( 1 + u ) u {\displaystyle \phi (u)=e^{u}-u-1,h(u)=(1+u)\log(1+u)-u} pour u 1 {\displaystyle u\geq -1} , v = 2 E Z + σ 2 {\displaystyle v=2\mathbb {E} Z+\sigma ^{2}} avec σ 2 = sup s T i = 1 n E X i , s 2 {\displaystyle \sigma ^{2}=\sup _{s\in T}\sum _{i=1}^{n}\mathbb {E} X_{i,s}^{2}} . En optimisant la fonction h {\displaystyle h} , on obtient en particulier

P ( Z E Z + t ) exp ( t 2 2 ( v + t / 3 ) ) {\displaystyle \mathbb {P} (Z\geq \mathbb {E} Z+t)\leq \exp \left(-{\frac {t^{2}}{2(v+t/3)}}\right)}

Références

  1. (en + fr) Olivier Bousquet, « A Bennett Concentration Inequality and Its Application to Suprema of Empirical Processes », C. R. Acad. Sci. Paris,‎ , p. 1-11
  2. (en) Stéphane Boucheron, Gábor Lugosi et Pascal Massart, Concentration inequalities: a nonasymptotic theory of independence, Oxford University Press, p. 347-351
  • icône décorative Portail des probabilités et de la statistique