Я бы даже написал 99.9... :)
Вид для печати
Это причина не работы гораздо более сложного алгоритма, нежели простая визуализация :cool:
Накидал схемку и протестил исключительно для демонстрации косяка. Пробовал связки с другими арифметическими компонентами, всё нормально. Только в этой связке :cool:
И самое смешное, что именно такая связка и именно с такими параметрами используется в моей программе несколько раз. :eek:
Вложение 33338
Вложение 33345 ;)
Вложение 33339
Вложение 33342 :eek: :confused:
Вложение 33340
Вложение 33343 ;)
Вложение 33341
Вложение 33344 ;)
причина в том сколько дробей себе может позволить процессор в ПР и сколько на компе, чтоб сформировать вещественное число
Да понятно, что дело в округлении. Тем более, что и возведение в степень...
100 посчиталось "снизу" (99,999(9)), а при преобразовании дробная часть отбросилась. В симуляторе скорее всего алгоритм возведения в степень немного отличается от в железке с процессором без плавающей точки.
А если 10^2.000001?
Были похожие случаи, но значения в ОЛ и на экране соответствовали.
Господа форумчане, благодарю всех за советы (убедился, действительно живём в стране советов).
Проблему решил, переписал кусок кода без использования функции возведения в степень.
Кстати, если отобразить без преобразования to_Int, показывает 100,0