Comment instancier l'estimateur… : En écrivant la vraisemblance L(theta)… — ECG2 appliquées | MetMat

Comment instancier l'estimateur du maximum de vraisemblance sur Bernoulli/Poisson ?

En écrivant la vraisemblance $L(\theta)$ , en passant au log et en cherchant le point critique

Déterminer l'estimateur du maximum de vraisemblance (EMV) du paramètre d'une loi discrète usuelle (Bernoulli, Poisson).

Maîtriser

Reconnaître

Résoudre

Que ferais-tu face à un exercice de ce type ?

Soit $(X_1, \dots, X_n)$ un $n$ -échantillon de loi $\mathcal{B}(p)$ avec $p \in ]0,1[$ . Déterminer l'estimateur du maximum de vraisemblance de $p$ .

L'objectif

Déterminer l'estimateur du maximum de vraisemblance (EMV) du paramètre d'une loi discrète usuelle (Bernoulli, Poisson).

Le principe

Le principe du maximum de vraisemblance consiste à choisir comme estimation la valeur du paramètre $\theta$ qui rend les observations $(x_1, \dots, x_n)$ les plus probables, en maximisant la vraisemblance $L(\theta) = \prod_{i=1}^n \mathbb{P}_\theta(X_i = x_i)$ ou son logarithme $\ln L(\theta)$ .

La méthode

1
Je vérifie les hypothèses : $(X_1, \dots, X_n)$ est un $n$ -échantillon de loi discrète $\mathbb{P}_\theta$ , et j'écris la vraisemblance $L(\theta) = \prod_{i=1}^n \mathbb{P}_\theta(X_i = x_i)$ associée aux observations.
2
Je passe au logarithme pour transformer le produit en somme : $\ell(\theta) = \ln L(\theta) = \sum_{i=1}^n \ln \mathbb{P}_\theta(X_i = x_i)$ , plus simple à dériver.
3
Je cherche le point critique en résolvant $\ell'(\theta) = 0$ , et je vérifie que $\ell''(\theta) < 0$ pour confirmer le maximum.
4
Je remplace les $x_i$ par les variables $X_i$ pour obtenir l'estimateur $\widehat{\theta}_n$ du maximum de vraisemblance.

Pour comprendre, fais des exercices !

Exercice d'exemple

Soit $(X_1, \dots, X_n)$ un $n$ -échantillon de loi $\mathcal{B}(p)$ avec $p \in ]0,1[$ . Déterminer l'estimateur du maximum de vraisemblance de $p$ .

Étape 1 —

Je vérifie les hypothèses :

(X_1, \dots, X_n)

est un

n

-échantillon de loi discrète

\mathbb{P}_\theta

, et j'écris la vraisemblance

L(\theta) = \prod_{i=1}^n \mathbb{P}_\theta(X_i = x_i)

associée aux observations.

Pour $x_i \in \{0,1\}$ , $\mathbb{P}_p(X_i = x_i) = p^{x_i}(1-p)^{1-x_i}$ , donc $L(p) = \prod_{i=1}^n p^{x_i}(1-p)^{1-x_i} = p^{S_n}(1-p)^{n - S_n}$ avec $S_n = \sum_{i=1}^n x_i$ .

Étape 2 —

Je passe au logarithme pour transformer le produit en somme :

\ell(\theta) = \ln L(\theta) = \sum_{i=1}^n \ln \mathbb{P}_\theta(X_i = x_i)

, plus simple à dériver.

$\ell(p) = \ln L(p) = S_n \ln p + (n - S_n)\ln(1-p)$ .

Étape 3 —

Je cherche le point critique en résolvant

\ell'(\theta) = 0

, et je vérifie que

\ell''(\theta) < 0

pour confirmer le maximum.

$\ell'(p) = \frac{S_n}{p} - \frac{n - S_n}{1-p} = 0 \iff S_n(1-p) = p(n - S_n) \iff p = S_n / n$ ; on vérifie $\ell''(p) = -\frac{S_n}{p^2} - \frac{n - S_n}{(1-p)^2} < 0$ , donc maximum.

Étape 4 —

Je remplace les

x_i

par les variables

X_i

pour obtenir l'estimateur

\widehat{\theta}_n

du maximum de vraisemblance.

L'EMV est $\widehat{p}_n = \frac{1}{n}\sum_{i=1}^n X_i = \overline{X}_n$ , la moyenne empirique.

$\widehat{p}_n = \overline{X}_n$ .

Les applications suivantes et la correction guidée sont réservées aux membres Premium

La méthode et sa première application corrigée restent en accès libre. Le Premium débloque les applications suivantes, l'aide IA et le suivi de ta maîtrise.

Comment instancier l'estimateur du maximum de vraisemblance sur Bernoulli/Poisson ?

En écrivant la vraisemblance L(θ)L(\theta)L(θ), en passant au log et en cherchant le point critique

Pour comprendre, fais des exercices !

En écrivant la vraisemblance $L(\theta)$ , en passant au log et en cherchant le point critique