| Диапазон | Разрешение | Погрешность | Абсолютная погрешность | Значение-погрешность | Калибруемая точка |
Значение+ погрешность |
|---|---|---|---|---|---|---|
| 3 мВ | 0.0001 мВ | ±(1.5%+150 е.м.р.) | ±0.0599985 мВ | 0.2805 мВ | 0.3 мВ (10% диапазона) | 0.3195 мВ |
| 1.4625 мВ | 1.5 мВ (50% диапазона) | 1.5375 мВ | ||||
| 2.6445 мВ | 2.7 мВ (90% диапазона) | 2.7555 мВ | ||||
| 30 мВ | 0.001 мВ | ±(1.5%+150 е.м.р.) | ±0.599985 мВ | 2.805 мВ | 3 мВ (10% диапазона) | 3.195 мВ |
| 14.625 мВ | 15 мВ (50% диапазона) | 15.375 мВ | ||||
| 26.445 мВ | 27 мВ (90% диапазона) | 27.555 мВ | ||||
| 300 мВ | 0.01 мВ | ±(1.5%+150 е.м.р.) | ±5.99985 мВ | 28.05 мВ | 30 мВ (10% диапазона) | 31.95 мВ |
| 146.25 мВ | 150 мВ (50% диапазона) | 153.75 мВ | ||||
| 264.45 мВ | 270 мВ (90% диапазона) | 275.55 мВ | ||||
| 3 В | 0.1 мВ | ±(1.5%+150 е.м.р.) | ±0.0599985 В | 0.2805 В | 0.3 В (10% диапазона) | 0.3195 В |
| 1.4625 В | 1.5 В (50% диапазона) | 1.5375 В | ||||
| 2.6445 В | 2.7 В (90% диапазона) | 2.7555 В | ||||
| 30 В | 1 мВ | ±(1.5%+150 е.м.р.) | ±0.599985 В | 2.805 В | 3 В (10% диапазона) | 3.195 В |
| 14.625 В | 15 В (50% диапазона) | 15.375 В | ||||
| 26.445 В | 27 В (90% диапазона) | 27.555 В | ||||
| 300 В | 10 мВ | ±(1.5%+150 е.м.р.) | ±5.99985 В | 28.05 В | 30 В (10% диапазона) | 31.95 В |
| 146.25 В | 150 В (50% диапазона) | 153.75 В | ||||
| 264.45 В | 270 В (90% диапазона) | 275.55 В |