Résolution, écart de linéarité, précision
La résolution indique la plus petite variation physique que le système de mesure peut encore reconnaître.
L'écart de linéarité est l'écart maximal de la droite qui relie le point zéro de la plage de mesure avec la fin de plage (pleine échelle). Il existe une relation linéaire entre la position / distance à mesurer et le signal de sortie.
La précision est le degré de concordance entre le résultat de mesure et la véritable valeur pour la grandeur de mesure. Ainsi, on ne peut obtenir une précision globale élevée que si la précision de reproduction est élevée et si la justesse est bonne. Un terme complémentaire dans ce contexte est la fidélité de répétition. On obtient la fidélité de répétition en approchant un point déterminé toujours dans des conditions de base inchangées.
