а теперь повторите результат в питоне, приведя число действительно к float32 Screenshot 2024-04-01 143709.png
а теперь повторите результат в питоне, приведя число действительно к float32 Screenshot 2024-04-01 143709.png
Последний раз редактировалось capzap; 01.04.2024 в 14:37.
Bad programmers worry about the code. Good programmers worry about data structures and their relationships
среди успешных людей я не встречала нытиков
Барбара Коркоран
потому что с целочисленными шансов еще меньше Screenshot 2024-04-01 161511.png, даже не повторить первую часть
Bad programmers worry about the code. Good programmers worry about data structures and their relationships
среди успешных людей я не встречала нытиков
Барбара Коркоран
Да там не 32 бита, а какой-то long
нету ж точки после 2-й шестерки
Доброго времени суток коллеги!
Сейчас делаю один проект и отрабатываю один алгоритм, суть состоит в том что мне нужно некую в некотором плане хаотичную последовательность импульсов идущую с частотой порядка 2-5 Гц. разделять на минимальные и максимальные значения этой частоты + выделять среднее значение, в принципе я макрос этот сваял как сумел один макрос взял из базы и он как бы работает, в режиме отладки, т.е. если я руками задаю ему числа, он их селектирует по нужным критериям, но вот если я его вставляю в программу и запускаю ее в режиме симулятора, то на выходах этого макроса значки бесконечности, т.е. макрос не работает, что я делаю не так?
Ну и собственно саму тестовую программку выкладываю
https://owen.ru/forum/attachment.php...1&d=1714061798
https://owen.ru/forum/attachment.php...1&d=1714061809
Сама программка
https://owen.ru/forum/attachment.php...1&d=1714061866
У вас в первом цикле, происходит деление на 0 и в макросе в Max и Avg записывается бесконечность, что логично 1 Деление на 0 .jpg
Достаточно было включить проект по шагам и всё видно.
Последний раз редактировалось kondor3000; Сегодня в 19:59.