Это причина не работы гораздо более сложного алгоритма, нежели простая визуализация
Накидал схемку и протестил исключительно для демонстрации косяка. Пробовал связки с другими арифметическими компонентами, всё нормально. Только в этой связке
И самое смешное, что именно такая связка и именно с такими параметрами используется в моей программе несколько раз.
Умный человек - с лёгкостью решает любые проблемы. Мудрый - их не создаёт.
https://vk.com/a.matica
С уважением, Ревака Юрий.
Инженер группы технической поддержки компании "ОВЕН"
e-mail: yu.revaka@owen.ru
Шаблон описания ошибки ПР или OL http://ftp-ow.owen.ru/softupdate/OWE...s/Shablon.docx
Видео уроки по ПР200 и OWEN Logic http://edu.owen.ru/series/pr200_rev/
Другие видеоролики по тематике ПР https://www.youtube.com/channel/UCj4...H5H3d_t6iDlQOQ
Умный человек - с лёгкостью решает любые проблемы. Мудрый - их не создаёт.
https://vk.com/a.matica
причина в том сколько дробей себе может позволить процессор в ПР и сколько на компе, чтоб сформировать вещественное число
Bad programmers worry about the code. Good programmers worry about data structures and their relationships
среди успешных людей я не встречала нытиков
Барбара Коркоран
С уважением, Ревака Юрий.
Инженер группы технической поддержки компании "ОВЕН"
e-mail: yu.revaka@owen.ru
Шаблон описания ошибки ПР или OL http://ftp-ow.owen.ru/softupdate/OWE...s/Shablon.docx
Видео уроки по ПР200 и OWEN Logic http://edu.owen.ru/series/pr200_rev/
Другие видеоролики по тематике ПР https://www.youtube.com/channel/UCj4...H5H3d_t6iDlQOQ
Да понятно, что дело в округлении. Тем более, что и возведение в степень...
100 посчиталось "снизу" (99,999(9)), а при преобразовании дробная часть отбросилась. В симуляторе скорее всего алгоритм возведения в степень немного отличается от в железке с процессором без плавающей точки.
А если 10^2.000001?
Последний раз редактировалось pop70; 28.09.2017 в 15:24.
Были похожие случаи, но значения в ОЛ и на экране соответствовали.
пора выбрасывать прах, от обиды на мир, пока тела наши не стали невидимыми...
Господа форумчане, благодарю всех за советы (убедился, действительно живём в стране советов).
Проблему решил, переписал кусок кода без использования функции возведения в степень.
Кстати, если отобразить без преобразования to_Int, показывает 100,0
Умный человек - с лёгкостью решает любые проблемы. Мудрый - их не создаёт.
https://vk.com/a.matica