La définition du temps d'intégration entraîne celle de la résolution de mesure. Ce tableau décrit le rapport entre le temps d'intégration en cycles de tension d'alimentation (PLC) et la résolution.
| Temps d'intégration (cycles de tension d'alimentation) |
Résolution (34460A) |
Résolution (34461A) |
|---|---|---|
|
0,02 PLC (MINimum) |
300 ppm × plage (MAXimum) |
100 ppm × plage (MAXimum) |
|
0,2 PLC |
100 ppm × plage |
10 ppm × plage |
|
1 PLC |
30 ppm × plage |
3 ppm × plage |
|
10 PLC (DEFault) |
10 ppm × plage (DEFault) |
1 ppm × plage (DEFault) |
|
100 PLC (MAXimum) |
3 ppm × plage (MINimum) |
0,3 ppm × plage (MINimum) |