Коллеги, вопрос по теме: в РЭ для унифицированных сигналов он составляет 0,1 единицы измерения, но только вот 0,1 от чего? У термометров речь идет о 0,1 град. А если я измеряю освещенность в диапазоне 0-2000 люкс, то младший разряд будет 0,1 люкс? Или речь идет о долях токовых диапазонов - 0,1 мА, 0,1 В и т.п?
И вообще, значение единицы младшего разряда что-то говорит о точности измерения сигнала в МВА, или это всего лишь устанавливаемый предел округления? Если с разрядами речь про программное округление, подскажите, как определить предел точности измерений в самом приборе?
Есть параметр dP, который условно говоря позволяет регулировать количество знаков после запятой - максимум 3, насколько я понимаю. Т.е. точность находится в пределах 0,001 - 65534,999 (или 0,000 - 65534,000, если быть более точным), или в моем случае 0,001 - 1999,999 люкс?
П.с.: в ГОСТ 26.011-80 не отсылайте, там об этом ни слова.