Помощь по математическим расчётам

Раздел начинающих пользователей
Правила форума
В песочнице можно спрашивать когда незнаешь где спросить.
В песочнице нелзя посылать в гугл
В песочнице можно задавать любой вопрос, но на него могут и неответить.
Песочница для тех, кто начинает свои вопросы с защиты чайников от пинков.
В песочницу будут перетаскиваться вопросы неполучившие ответа.
Песочница - попытка навести порядок.
На песочницу большие надежды.

Re: Помощь по математическим расчётам

Сообщение Volume (Евгений) » 23 июн 2017, 07:35

Благодарю за помощь! :oops:
Полиномы для меня это вынос мозга(
Аватар пользователя
Ник: Volume
Имя: Евгений
(Иркутск)
Заинтересованный
Заинтересованный
Информация о пользователе

Re: Помощь по математическим расчётам

Сообщение andrewproffi (Андрей) » 15 июл 2017, 07:44

Приветствую! подскажите если можете. в чем проблема? :headbang:
в блоке математических расчетов при нажатой кнопке увеличения температуры, преобразование останавливается на значении около 32.3. симуляция в флоукоде проходит нормально, в протеусе и в железе есть этот дефект...
вообще мне нужно к переменной типа float прибавлять или убавлять по одной десятой ровно. почему то в определенный момент (если просто к переменной типа float прибавлять или убавлять 0,1) в переменной появляется неточность, например 20,1 20,2 20,29
я решил избавится от этой проблемы путем преобразования в целочисленное, может есть другой вариант или способ устранить неточность?
У вас нет доступа для просмотра вложений в этом сообщении.
Аватар пользователя
Ник: andrewproffi
Имя: Андрей
(Томск)
Суперконсульт
Суперконсульт
Информация о пользователе

Re: Помощь по математическим расчётам

Сообщение Vovan_G5 (Владимир) » 15 июл 2017, 15:12

загадка. Уходи ты от этих флоат совсем
Ник: Vovan_G5
Имя: Владимир
(Харьков)
Консультант
Консультант
Информация о пользователе
Вернуться наверх

Re: Помощь по математическим расчётам

Сообщение Yushik (Андрей) » 15 июл 2017, 17:10

Да действительно загадка, проблема скорее скрыта где-то в недрах компилятора или фловкода. С целочисленными получается без проблем, как только пытаешься втюхать флоат вылазиет эта проблема. Если пораскинуть мозгами устранить эту погрешность может и возможно, но цена работы с флоат вылезет в немалые объёмы кода программ и ресурсы контроллера. Вот и думайте чем пожертвовать.
У вас нет доступа для просмотра вложений в этом сообщении.
Аватар пользователя
Ник: Yushik
Имя: Андрей
(Симферополь)
Специалист
Специалист
Информация о пользователе
Вернуться наверх

Re: Помощь по математическим расчётам

Сообщение andrewproffi (Андрей) » 16 июл 2017, 04:41

вроде память в МК пока позволяет себя не ограничивать, ну ладно, буду пробовать без float делать, хотя так сложнее (
Аватар пользователя
Ник: andrewproffi
Имя: Андрей
(Томск)
Суперконсульт
Суперконсульт
Информация о пользователе
Вернуться наверх

Пред.

Вернуться в ПЕСОЧНИЦА

Кто сейчас на форуме

Пользователь просматривает форум: Yandex [Bot]