Comment instancier l'estimateur du maximum de vraisemblance sur Bernoulli/Poisson ? | MetMat

Comment instancier l'estimateur du maximum de vraisemblance sur Bernoulli/Poisson ?

En écrivant la vraisemblance $L(\theta)$ , en passant au log et en cherchant le point critique

Déterminer l'estimateur du maximum de vraisemblance (EMV) du paramètre d'une loi discrète usuelle (Bernoulli, Poisson).

Que ferais-tu face à un exercice de ce type ?

Soit $(X_1, \dots, X_n)$ un $n$ -échantillon de loi $\mathcal{B}(p)$ avec $p \in ]0,1[$ . Déterminer l'estimateur du maximum de vraisemblance de $p$ .

L'objectif

Déterminer l'estimateur du maximum de vraisemblance (EMV) du paramètre d'une loi discrète usuelle (Bernoulli, Poisson).

Le principe

Le principe du maximum de vraisemblance consiste à choisir comme estimation la valeur du paramètre $\theta$ qui rend les observations $(x_1, \dots, x_n)$ les plus probables, en maximisant la vraisemblance $L(\theta) = \prod_{i=1}^n \mathbb{P}_\theta(X_i = x_i)$ ou son logarithme $\ln L(\theta)$ .

La méthode

1
Je vérifie les hypothèses : $(X_1, \dots, X_n)$ est un $n$ -échantillon de loi discrète $\mathbb{P}_\theta$ , et j'écris la vraisemblance $L(\theta) = \prod_{i=1}^n \mathbb{P}_\theta(X_i = x_i)$ associée aux observations.
2
Je passe au logarithme pour transformer le produit en somme : $\ell(\theta) = \ln L(\theta) = \sum_{i=1}^n \ln \mathbb{P}_\theta(X_i = x_i)$ , plus simple à dériver.
3
Je cherche le point critique en résolvant $\ell'(\theta) = 0$ , et je vérifie que $\ell''(\theta) < 0$ pour confirmer le maximum.
4
Je remplace les $x_i$ par les variables $X_i$ pour obtenir l'estimateur $\widehat{\theta}_n$ du maximum de vraisemblance.

Pour comprendre, fais des exercices !

0/5 validés

Exercice d'exemple

Soit $(X_1, \dots, X_n)$ un $n$ -échantillon de loi $\mathcal{B}(p)$ avec $p \in ]0,1[$ . Déterminer l'estimateur du maximum de vraisemblance de $p$ .

Étape 1 —

Je vérifie les hypothèses :

(X_1, \dots, X_n)

est un

n

-échantillon de loi discrète

\mathbb{P}_\theta

, et j'écris la vraisemblance

L(\theta) = \prod_{i=1}^n \mathbb{P}_\theta(X_i = x_i)

associée aux observations.

Pour $x_i \in \{0,1\}$ , $\mathbb{P}_p(X_i = x_i) = p^{x_i}(1-p)^{1-x_i}$ , donc $L(p) = \prod_{i=1}^n p^{x_i}(1-p)^{1-x_i} = p^{S_n}(1-p)^{n - S_n}$ avec $S_n = \sum_{i=1}^n x_i$ .

Étape 2 —

Je passe au logarithme pour transformer le produit en somme :

\ell(\theta) = \ln L(\theta) = \sum_{i=1}^n \ln \mathbb{P}_\theta(X_i = x_i)

, plus simple à dériver.

$\ell(p) = \ln L(p) = S_n \ln p + (n - S_n)\ln(1-p)$ .

Étape 3 —

Je cherche le point critique en résolvant

\ell'(\theta) = 0

, et je vérifie que

\ell''(\theta) < 0

pour confirmer le maximum.

$\ell'(p) = \frac{S_n}{p} - \frac{n - S_n}{1-p} = 0 \iff S_n(1-p) = p(n - S_n) \iff p = S_n / n$ ; on vérifie $\ell''(p) = -\frac{S_n}{p^2} - \frac{n - S_n}{(1-p)^2} < 0$ , donc maximum.

Étape 4 —

Je remplace les

x_i

par les variables

X_i

pour obtenir l'estimateur

\widehat{\theta}_n

du maximum de vraisemblance.

L'EMV est $\widehat{p}_n = \frac{1}{n}\sum_{i=1}^n X_i = \overline{X}_n$ , la moyenne empirique.

$\widehat{p}_n = \overline{X}_n$ .

Application guidée

Soit $(X_1, \dots, X_n)$ un $n$ -échantillon de loi $\mathcal{P}(\lambda)$ avec $\lambda > 0$ . Déterminer l'estimateur du maximum de vraisemblance de $\lambda$ .

Application autonome 1

Sondage : on interroge $n = 1000$ personnes, $S_n = 540$ se déclarent favorables à un candidat. Donner l'estimation par maximum de vraisemblance de la proportion $p$ .

Application autonome 2

Soit $(X_1, \dots, X_n)$ un $n$ -échantillon de loi $\mathcal{E}(\lambda)$ avec $\lambda > 0$ . Déterminer l'estimateur du maximum de vraisemblance de $\lambda$ .

Application autonome 3

Soit $(X_1, \dots, X_n)$ un $n$ -échantillon de loi géométrique $\mathcal{G}(p)$ avec $p \in (0, 1)$ . Déterminer l'estimateur du maximum de vraisemblance de $p$ .

Crée ton compte pour accéder à la fiche et aux exercices

En écrivant la vraisemblance L(θ)L(\theta)L(θ), en passant au log et en cherchant le point critique

Pour comprendre, fais des exercices !

En écrivant la vraisemblance $L(\theta)$ , en passant au log et en cherchant le point critique