Добро пожаловать, Гость. Пожалуйста, войдите или зарегистрируйтесь.
28.04.2024, 20:11:35
 
Начало Помощь Поиск Войти Регистрация
Новости: Форум обновлен

+  Форум АО "ВЗЛЕТ"
|-+  Автоматизация и диспетчеризация
| |-+  Взлет СП4
| | |-+  Округление чисел при расчете
0 Пользователей и 1 Гость смотрят эту тему. « предыдущая тема следующая тема »
Страниц: [1] Печать
Автор Тема: Округление чисел при расчете  (Прочитано 2891 раз)
Работник
Пользователь
**

Харизма: 0
Офлайн Офлайн

Сообщений: 91


« : 26.06.2019, 15:35:57 »

Создал вычисляемое поле для расчета нормативных потерь. В итоге, например, получается такой расчет 192*0,0017+0,784, где 192 - время, 0,0017 константа, 0,784 - суммарное значение в архиве (строка формата {0;F3}). Должно получится число 1,1104, со строкой формата  {0;F3} должно быть 1,110, но выводит 1,111. Если сделать 4 знака после запятой, то 1,1105. От куда берется эта пятерка, как так округление идет?
Записан
Энерго_алексей
Наш человек
***

Харизма: 9
Офлайн Офлайн

Сообщений: 905


« Ответ #1 : 26.06.2019, 16:40:51 »

Создал вычисляемое поле для расчета нормативных потерь. В итоге, например, получается такой расчет 192*0,0017+0,784, где 192 - время, 0,0017 константа, 0,784 - суммарное значение в архиве (строка формата {0;F3}). Должно получится число 1,1104, со строкой формата  {0;F3} должно быть 1,110, но выводит 1,111. Если сделать 4 знака после запятой, то 1,1105. От куда берется эта пятерка, как так округление идет?
Почитайте тему вот эту про нормативные потери на 4 странице вы наверно найдете решение данной проблемы.
http://vzljot.ru/forum/index.php?topic=6800.45
Записан
KIA
Global Moderator
*****

Харизма: 10
Офлайн Офлайн

Сообщений: 279


« Ответ #2 : 26.06.2019, 17:43:53 »

В строке формата должно быть двоеточие, а не точка с запятой.
{0:F3}
Записан
Страниц: [1] Печать 
« предыдущая тема следующая тема »
Перейти в:  


Войти

© 1990—2016, АО «Взлет».
Все права защищены.
Контактная информация
Powered by SMF 1.1.13 | SMF © 2006-2011, Simple Machines LLC
Материалы, размещенные на сайте, охраняются законодательством об авторском праве. Перепечатка материалов допускается только со ссылкой на сайт.