Коллеги, почему не считается корень от максимального значения DWORD ?
Вид для печати
Коллеги, почему не считается корень от максимального значения DWORD ?
Предположительно идет конверсия в REAL, а затем извлечение корня. При конверсии получается ошибка.
число более IEEE754=FF 80 00 00hex считается числом -∞, извлекать корень из числа минус бесконечности как-то не очень разумно.
https://www.softelectro.ru/ieee754.html
Вложение 58179
Вот же людям делать нечего, а почему из REAL корень берётся?Цитата:
Сообщение от Shurick
c1:=SQRT(4294967294.0); с1=65536
Если речь про квадратный корень(надо вопрос "здравый" задавать), так вот, мне кажется квадратных корней из отрицательных чисел не бывает в принципе!
поступайте проще, подключите библиотеку оскат, раздел математика и смотрите исходник нужной функции Вложение 58188Цитата:
Сообщение от Shurick