Ainsi, la robustesse traduit le plus souvent la résistance de l'estimation aux données abérentes. On la définit mathématiquement par le plus petit nombre de données extrèmes qui modifie la valeur de l'estimation ramené à la taille de l'échantillon.
Considérons un échantillon constitué de
valeurs identiques
,
auquel on ajoutera une perturbation sous la forme de valeurs extrèmes
.
Pour estimer l'espérance mathématique, on peut utiliser la
moyenne arithmétique qui donne bien sûr
sur l'échantillon.
Cependant, cette estimation est modifiée dès l'introduction
d'une nouvelle valeur,
, sa robustesse est donc de
.
Par contre, la médiane de cet échantillon n'est pas modifiée si
l'on ajoute une valeur extrème. En fait, la médiane ne sera
modifiée que si le nombre de valeurs extrèmes est supérieur au
nombre de valeurs initiales. On en déduit que la robustesse de
l'estimateur médiane est égale à
dont
la valeur asymptotique est
.