на форуме встречал что меняли очистку данных порта в коде Modbus.lib
Порт можно попробовать закрывать и заново открывать, но закрытия порта не встречал ни у кого в коде, т.е. никто этим не пользуется

а также были проблемы при изменении буфера во время записи по модбасу, но у меня буфер не меняется (или я так считаю), это видно в отладке на скрине выше