Comment comparer par simulation… : En estimant le biais et la variance de… — ECG2 approfondies | MetMat

Comment comparer par simulation plusieurs estimateurs ponctuels et plusieurs intervalles de confiance d'un même paramètre ?

En estimant le biais et la variance de chaque estimateur sur $M$ jeux de données simulés

Comparer numériquement deux estimateurs ponctuels d'un paramètre $\theta$ via leur biais et leur variance.

Que ferais-tu face à un exercice de ce type ?

Pour $X_i\sim\mathcal{U}[0,\theta]$ avec $\theta=2$ et $n=20$ , comparer $T_1 = 2\bar X_n$ et $T_2 = \frac{n+1}{n}\max(X_i)$ sur $M=10^4$ répétitions.

L'objectif

Comparer numériquement deux estimateurs ponctuels d'un paramètre $\theta$ via leur biais et leur variance.

Le principe

Par la LFGN, sur $M$ réalisations indépendantes, $\frac{1}{M}\sum_j T_n^{(j)} \to E_\theta(T_n)$ et la variance empirique converge vers $V_\theta(T_n)$ ; l'erreur quadratique moyenne $\mathrm{EQM}(T_n) = V_\theta(T_n) + (E_\theta(T_n)-\theta)^2$ permet de classer les estimateurs.

La méthode

1
Je fixe la vraie valeur $\theta$ , la taille d'échantillon $n$ , le nombre de répétitions $M$ (par exemple $M=10^4$ ) et je simule en matrice Y = rd.xxx(size=(M, n)).
2
Je calcule les $M$ valeurs des deux estimateurs avec des opérations vectorielles sur l'axe des colonnes, par exemple T1 = Y.mean(axis=1) et T2 = Y.max(axis=1) (+ correction éventuelle).
3
Pour chaque estimateur, j'estime le biais par biais = T.mean() - theta et la variance par var = T.var(ddof=1), puis l'EQM par biais**2 + var.
4
Je compare les deux EQM et j'ajoute éventuellement deux histogrammes des $(T^{(j)})_j$ avec plt.hist(T1,...) et plt.hist(T2,...) pour visualiser la dispersion.

Pour comprendre, fais des exercices !

Exercice d'exemple

Pour $X_i\sim\mathcal{U}[0,\theta]$ avec $\theta=2$ et $n=20$ , comparer $T_1 = 2\bar X_n$ et $T_2 = \frac{n+1}{n}\max(X_i)$ sur $M=10^4$ répétitions.

Étape 1 —

Je fixe la vraie valeur

\theta

, la taille d'échantillon

n

, le nombre de répétitions

M

(par exemple

M=10^4

) et je simule en matrice Y = rd.xxx(size=(M, n)).

import numpy as np, numpy.random as rd
theta, n, M = 2, 20, 10**4
Y = rd.uniform(0, theta, size=(M, n))

Étape 2 —

Je calcule les

M

valeurs des deux estimateurs avec des opérations vectorielles sur l'axe des colonnes, par exemple T1 = Y.mean(axis=1) et T2 = Y.max(axis=1) (+ correction éventuelle).

T1 = 2 * Y.mean(axis=1)
T2 = (n + 1) / n * Y.max(axis=1)

Étape 3 —

Pour chaque estimateur, j'estime le biais par biais = T.mean() - theta et la variance par var = T.var(ddof=1), puis l'EQM par biais**2 + var.

for T, nom in [(T1,'T1'), (T2,'T2')]:
    b = T.mean() - theta
    v = T.var(ddof=1)
    print(nom, 'biais=', b, 'var=', v, 'EQM=', b**2+v)

Étape 4 —

Je compare les deux EQM et j'ajoute éventuellement deux histogrammes des

(T^{(j)})_j

avec plt.hist(T1,...) et plt.hist(T2,...) pour visualiser la dispersion.

import matplotlib.pyplot as plt
plt.hist(T1, bins=50, alpha=0.5, label='T1=2 moy')
plt.hist(T2, bins=50, alpha=0.5, label='T2=(n+1)/n max')
plt.legend(); plt.show()

$T_2$ a une EQM bien plus faible que $T_1$ : il est préférable pour estimer $\theta$ .

Les applications suivantes et la correction guidée sont réservées aux membres Premium

La méthode et sa première application corrigée restent en accès libre. Le Premium débloque les applications suivantes, l'aide IA et le suivi de ta maîtrise.

Comment comparer par simulation plusieurs estimateurs ponctuels et plusieurs intervalles de confiance d'un même paramètre ?

En estimant le biais et la variance de chaque estimateur sur MMM jeux de données simulés

Pour comprendre, fais des exercices !

En estimant le biais et la variance de chaque estimateur sur $M$ jeux de données simulés