|
Название: Округление чисел при расчете Отправлено: Работник от 26.06.2019, 15:35:57 Создал вычисляемое поле для расчета нормативных потерь. В итоге, например, получается такой расчет 192*0,0017+0,784, где 192 - время, 0,0017 константа, 0,784 - суммарное значение в архиве (строка формата {0;F3}). Должно получится число 1,1104, со строкой формата {0;F3} должно быть 1,110, но выводит 1,111. Если сделать 4 знака после запятой, то 1,1105. От куда берется эта пятерка, как так округление идет?
Название: Re:Округление чисел при расчете Отправлено: Энерго_алексей от 26.06.2019, 16:40:51 Создал вычисляемое поле для расчета нормативных потерь. В итоге, например, получается такой расчет 192*0,0017+0,784, где 192 - время, 0,0017 константа, 0,784 - суммарное значение в архиве (строка формата {0;F3}). Должно получится число 1,1104, со строкой формата {0;F3} должно быть 1,110, но выводит 1,111. Если сделать 4 знака после запятой, то 1,1105. От куда берется эта пятерка, как так округление идет? Почитайте тему вот эту про нормативные потери на 4 странице вы наверно найдете решение данной проблемы.http://vzljot.ru/forum/index.php?topic=6800.45 Название: Re:Округление чисел при расчете Отправлено: KIA от 26.06.2019, 17:43:53 В строке формата должно быть двоеточие, а не точка с запятой.
{0:F3} |