Solución
La resolución de cualquier dispositivo de entrada analógica se refiere a la resolución del convertidor analógico a digital. Esto define el cambio más pequeño que puede ser detectado por el dispositivo. Para el USB-6008 y USB-6009, suponiendo un rango de voltaje de 20 V (+/- 10 V), los cambios más pequeños que se pueden detectar son:
USB-6008:
20V / (2 ^ 12) = 4.9 mV
USB-6009:
20V / (2 ^ 14) = 1.2 mV
La especificación de precisión (del inglés accuracy specification) indica que su medición estará dentro de cierto rango respecto al valor del voltaje real, y toma en cuenta factores como el ruido, la variación de la temperatura y los errores de ganancia y compensación en el convertidor A/D. La especificación de resolución (número de bits) no afecta la precisión directamente, pero indica qué valores discretos puede medir. Ambas tarjetas tienen las mismas especificaciones de precisión (por lo que las mediciones estarán en el mismo rango), pero la resolución de la señal de entrada será cuatro veces mayor en el 6009.