дошел таки до причин числа 65534 в целочисленном - резистор имеет сопротивление 99,9 Ом, напряжение иногда проседает до 0,397 В, а ток соответственно падает до 0,0039 А.
переменная REAL в этом случае становится как писал -2 / -9 x 10(-2), а целочисленное убегает в другую сторону от нуля, т.е. в 65534.
непонятно только почему при настроенных пределах измерения 0..500 модуль шлет на контроллер отрицательное значение?