Probabilités

Soit $\displaystyle (\Omega,\mathcal F,P)$ un espace probabilisé. La tribu $\displaystyle \mathcal F$ représente une collection d’événements et $\displaystyle P$ va donner leurs poids respectifs. On a $\displaystyle P(\emptyset)=0$ et $\displaystyle P(\Omega)=1$.

Événements

Ne pas confondre événements disjoints et indépendants :

1. $\displaystyle A$ et $\displaystyle B$ sont disjoints si $\displaystyle A\cap B=\emptyset$, et donc $\displaystyle P(A\cup B)=P(A)+P(B)$ ;
2. $\displaystyle A$ et $\displaystyle B$ sont indépendants si $\displaystyle P(A\cap B)=P(A)P(B)$, i.e. $\displaystyle P(A|B)=P(A)$ avec $\displaystyle P(B)$ différent de $\displaystyle 0$.

En fait deux événements disjoints de proba non nulles ne sont jamais indépendants !

Soit $\displaystyle (A_n)$ une suite d’ événements. On note $\displaystyle \limsup_{n\to\infty} A_n =\bigcap_{n\ge0}\bigcup_{k\ge n}A_k$.
Lemme de Borel-Cantelli —

1. Si $\displaystyle \sum_{n\ge0}P(A_n)<\infty$, alors $\displaystyle P(\limsup A_n)=0$.
2. Si $\displaystyle (A_n)$ une famille d’événements indépendants tels que $\displaystyle \sum_{n\ge0}P(A_n)=\infty$, alors $\displaystyle P(\limsup A_n)=1$.

Inrerprétons le point 1) du lemme. Par passage au complémentaire, on peut réécrire la conclusion du lemme 1) : $\displaystyle P\left(\bigcup_{n\ge0}\bigcap_{k\ge n}A_k^c\right)=1$.
On a la traduction ensembliste-quantificateurs suivante : $\displaystyle \cup\to\exists$, $\displaystyle \cap\to\forall$.
Le lemme 1) conclut donc que presque sûrement il existe un $\displaystyle n$ (aléatoire) tel que pour tout $\displaystyle k\ge n$, les $\displaystyle A_k^c$ sont réalisés.
Voir aussi la page wikipedia.

Variables aléatoires

Couples ou n-uplets

Attention — Si on a la loi d’un couple $\displaystyle (X,Y)$, on en déduit la loi de $\displaystyle X$ et de $\displaystyle Y$ (qui peut le plus peut le moins). Par contre, à partir de la loi de $\displaystyle X$ et de $\displaystyle Y$, on ne peut rien dire de la loi du couple, i.e. on ne sait pas comment $\displaystyle X$ et $\displaystyle Y$ interagissent entre elles. Si on dit qu’elles sont indépendantes, alors on sait quelle est la loi du couple, c’est ce qu’on appelle la loi produit.

Exemple — Le couple $\displaystyle (X,Y)$ modélise 2 pièces et $\displaystyle (X',Y')$ en représente deux autres. On donne les lois des deux couples par les tableaux ci-dessous :

$\displaystyle \begin{array}{|c||c|c|}\hline & Y=P & Y=F \\ \hline \hline X=P& 1/2 & 1/3\\ \hline X=F & 1/6 & 0\\ \hline \end{array}$ $\displaystyle \qquad$ $\displaystyle \begin{array}{|c||c|c|}\hline & Y'=P & Y'=F \\ \hline \hline X'=P& 5/9 & 5/18\\ \hline X'=F & 1/9 & 1/18\\ \hline \end{array}$

Remarquons que :$$P(Y=P)=1/2+1/6=2/3=5/9+1/9=P(Y'=P)$$ $$P(X=P)=1/2+1/3=5/6=5/9+5/18=P(X'=P).$$ Ainsi $\displaystyle X\sim X'$ et $\displaystyle Y\sim Y'$. De plus, $\displaystyle P(X=P,Y=P)=1/2\neq 2/3\cdot5/6$, alors que $\displaystyle X'$ et $\displaystyle Y'$ sont indépendantes (par exemple $\displaystyle P(X'=P,Y'=P)=5/9= 2/3\cdot 5/6$, etc.)

Conclusion : Les couples $\displaystyle (X,Y)$ et $\displaystyle (X',Y')$ ont les mêmes lois marginales, cependant $\displaystyle (X,Y)$ modélise deux pièces fortement liées (Si $\displaystyle X$ tombe sur face, $\displaystyle Y$ ne peut pas tomber sur face !), alors que $\displaystyle (X',Y')$ est un couple de pièces indépendantes.

Suites de v.a.

Soit $\displaystyle (Z_n)$ une suite de v.a. discrètes. A $\displaystyle n$ fixé, $\displaystyle \omega\mapsto Z_n(\omega)$ est une v.a., et à $\displaystyle \omega$ fixé, $\displaystyle n\mapsto Z_n(\omega)$ s’appelle une trajectoire.
Lorsqu’on dispose d’une suite, on s’intéresse souvent à sa convergence, et pour les v.a. il y a plusieurs notions de convergence :

• la convergence en loi, i.e. on regarde une possible limite de la suite $\displaystyle n\mapsto P(Z_n=k)$ pour tout $\displaystyle k$ fixé (dans le cas d’une v.a. discrète) ;
• des notions de convergences trajectorielles, i.e. on regarde si $\displaystyle n\mapsto Z_n(\omega)$ converge en un certain sens par rapport à $\displaystyle \omega$.

On peut considérer des suites $\displaystyle (X_i)$ de v.a. indépendantes identiquement distribuées (i.i.d.), i.e. les $\displaystyle X_i$ sont indépendantes et de même loi, et s’intéresser au comportement de marches aléatoires $\displaystyle S_n=X_1+\cdots+X_n$.

Exemple — Les $\displaystyle X_i$ sont à valeurs dans $\displaystyle \{-1,1\}$ et la marche aléatoire $\displaystyle S_n$ se promène sur $\displaystyle \Z$.

Outils

La fonction génératrice des v.a. discrètes

$\displaystyle G_X(s)=E[s^X]=\sum_{k=0}^\infty s^kP(X=k)$ caractérise la loi de $\displaystyle X$ (unicité du développement en série entière) et est un outil particulièrement adapté quand on a des sommes $\displaystyle S_n=X_1+\cdots+X_n$ de v.a. i.i.d. En effet dans ce cas : $\displaystyle G_{S_n}=G_{X_1}^n$.
Application avec les lois de Poisson — Soit $\displaystyle X\sim\mathcal P(\mu)$. Alors $\displaystyle G_X(s)=e^{-\mu}\sum_{k=0}^\infty s^k\frac{\mu^k}{k!}=e^{\mu(s-1)}$. Si les $\displaystyle X_i$ sont i.i.d. $\displaystyle \sim\mathcal P(\mu)$ alors $\displaystyle G_{S_n}(s)=e^{\mu n(s-1)}$ et on peut en déduire que $\displaystyle S_n\sim\mathcal P(\mu n)$.

Inégalités

Inégalité de Markov : $\displaystyle P(X\ge t) \le \frac{E[X]}{t}$ où $\displaystyle X$ est une v.a. positive d’espérance finie et $\displaystyle t>0$.
Inégalité de Tchebychev : Si $\displaystyle X$ a une variance finie, on peut en déduire avec $\displaystyle t>0$, $$P(|X-E[X]|\ge t) \le \frac{Var[X]}{t^2}.$$

On peut en fait utiliser n’importe quelle fonction $\displaystyle >0$ croissante : $\displaystyle P(f(X)\ge f(t)) \le \frac{E[f(X)]}{f(t)}$ si $\displaystyle E[|f(X)|]<\infty$.

Application — Soit $\displaystyle \lambda>0$, alors $\displaystyle P(X\ge t)=P(e^{\lambda X}\ge e^{\lambda t}) \le \frac{E[e^{\lambda X}]}{e^{\lambda t}}=e^{-\lambda t}G_X(e^{\lambda})$, et on peut optimiser en $\displaystyle \lambda$. On voit aussi l’intérêt si on a des sommes $\displaystyle S_n=X_1+\cdots+X_n$ de v.a. i.i.d.

Théorèmes limite

Loi Faible des Grands Nombres — Soit $\displaystyle X_1,\cdots,X_n$ des v.a. i.i.d. de variance finie $\displaystyle \sigma^2$. Comme les $\displaystyle X_i$ sont indépendantes, on a $\displaystyle Var(S_n)=n\sigma^2$. Alors, d’après l’inégalité de Tchebychev $\displaystyle P\left(\left|\frac{S_n}{n}-E[X_1]\right|\ge \epsilon\right) \le \frac{\sigma^2}{n\epsilon^2}\xrightarrow[n\to\infty]{} 0$, avec $\displaystyle \epsilon>0$.
On dit que la moyenne arithmétique des $\displaystyle X_i$, i.e. $\displaystyle S_n/n$, converge en probabilité vers la moyenne théorique $\displaystyle E[X_1]$.

Loi Forte des Grands Nombres — Soit $\displaystyle X_1,\cdots,X_n$ des v.a. i.i.d. d’espérance finie. Alors la moyenne arithmétique des $\displaystyle X_i$, i.e. $\displaystyle S_n/n$, converge presque sûrement vers la moyenne théorique $\displaystyle E[X_1]$.

On voit généralement ce résultat en L3-M1, il est beaucoup plus difficile à démontrer. La loi forte affaiblit les hypothèses de la loi faible et renforce la conclusion (la convergence presque sûre impliquant la convergence en probabilité).

Théorème Central limite (TCL) — Soit $\displaystyle X_1,\cdots,X_n$ des v.a. i.i.d. de variance finie $\displaystyle \sigma^2$. Alors $\displaystyle \frac{\sqrt{n}}{\sigma}\left(\frac{S_n}{n}-E[X_1]\right)$ converge en loi vers une gaussienne $\displaystyle \mathcal N(0,1)$.