Ningún instrumento puede proporcionar mediciones perfectas en todas las condiciones. Por lo tanto, un instrumento declara una precisión dentro de la cual debe funcionar para cualquier valor medido.
Las cifras de precisión suelen indicarse en forma de porcentaje, seguido de un número de dígitos. Suele tener el siguiente aspecto:
Precisión = ±5 % ± 2d
El porcentaje es simplemente la cantidad en que el valor mostrado puede desviarse del valor real, en forma de porcentaje.
“±2d” (o 2 dígitos) se refiere a cuánto puede variar también el número menos significativo de la pantalla. Esto depende de la resolución del instrumento y del rango seleccionado.
Por lo tanto, la medición de una tensión de 100 V en un instrumento con una pantalla que muestra 100,0 V con una precisión de ±5 % ± 2d podría dar un rango de valores como el que se muestra a continuación:
De: 100,0 V menos un 5 % = 95 V Menos 2 dígitos = 0,2 V = 94,8 V
a: 100,0 V más un 5 % = 105 % Más 2 dígitos = 0,2 V = 105,2 V
El rango de variación total es de un 10,4 %
Por lo tanto, en este caso, el porcentaje tiene un efecto mucho mayor que los dígitos
Sin embargo, un valor pequeño, por ejemplo, 0,5 V, se ve afectado por los dígitos mucho más que el porcentaje, como se indica a continuación:
De: 0,5 V menos un 5 % = 0,025 V Menos 2 dígitos = -0,2 V = 0,275 V redondeado a 0,27 V
a: 0,5 V más un 5 % = 0,525 V Más 2 dígitos = +0,2 V = 0,725 V redondeado a 0,73 V
El rango de variación total es de un 92 %
Por tanto, es muy importante tener en cuenta que, en valores muy bajos, el número de dígitos de la indicación de precisión puede tener un efecto significativamente mayor que el porcentaje de precisión.
En una pantalla analógica, la situación es ligeramente diferente. La precisión suele indicarse como un porcentaje del rango completo. Así, cuando un instrumento tiene un rango de hasta 100 V, una precisión del 1 % equivaldría a 1 V.
En este caso, la precisión se indica como un 1 % del rango completo.
