Показано с 1 по 5 из 5

Тема: Работа функции взятия числа X к степени Y (EXPT)

Комбинированный просмотр

Предыдущее сообщение Предыдущее сообщение   Следующее сообщение Следующее сообщение
  1. #1
    Пользователь
    Регистрация
    13.10.2011
    Адрес
    Златоуст
    Сообщений
    1,021

    По умолчанию

    Упёрлись в точность FPU процессора и/или реализации pow() рантайма. Паниковать не стоит, так задумано. И вообще делать строгое сравнение плавающих чисел это весьма дурной тон. Двойку принято возводить в степень сдвигом влево, если что (SHL(DWORD#2, 20)).

    Калькулятор винды, в свою очередь, использует длинную арифметику, и с ним предел нащупать трудно. Воспроизвести неточность на компьютере можно в какой-нибудь среде программирования (тот же кодесис в режиме симуляции) возведением в ещё большую степень.
    Последний раз редактировалось Yegor; 28.02.2016 в 00:16.

  2. #2

    По умолчанию

    EXP (Y * LN (X)) Результат аналогичен.

Похожие темы

  1. Генерация случайного числа
    от Gans в разделе Трёп (Курилка)
    Ответов: 28
    Последнее сообщение: 26.07.2016, 14:21
  2. Вещественные числа
    от The-Boss в разделе Master SCADA 3
    Ответов: 5
    Последнее сообщение: 27.11.2015, 16:47
  3. Вещественные числа
    от Александр86 в разделе ПЛК1хх
    Ответов: 2
    Последнее сообщение: 21.02.2013, 16:34
  4. преобразование степени счисления
    от niklud19511 в разделе ПЛК1хх
    Ответов: 13
    Последнее сообщение: 02.06.2011, 16:56

Метки этой темы

Ваши права

  • Вы не можете создавать новые темы
  • Вы не можете отвечать в темах
  • Вы не можете прикреплять вложения
  • Вы не можете редактировать свои сообщения
  •