Точность в вещественных числах

0 голосов
Андрей АВ в категории Как сделать...
Добрый день.

Какую точность вещественных чисел может хранить поле? У меня получается только два знака после запятой, если нужно 4 и затем выполнять операции над ними, это возможно?

Ответ: 1 шт.

0 голосов
Никита. К

Добрый день!

Уточните, пожалуйста, Вы смотрите результат через Предпросмотр?

Если это так, то стоит учитывать, что в Предпросмотре вещественные числа (с плавающей точкой) отображаются с двумя знаками после десятичного разделителя.

Подробнее про точность вещественных чисел можно прочесть в документации — https://help.loginom.ru/userguide/data/datatype.html
 

Для того чтобы увидеть нужное количество десятичных знаков после запятой, необходимо настроить визуализатор «Таблица». Это не влияет на точность самих данных, а только на их представление. Шаги настройки:

1. открыть окно настройки формата отображения данных,
2. снять галочку с "Особый формат",
3. в поле "Число десятичных знаков" указать нужное количество знаков после запятой.

Пример на скриншоте ниже

Для выполнения операций над вещественными числами  используйте функцию Round() в калькуляторе, чтобы явно округлить результат до нужного количества знаков после запятой перед дальнейшими операциями. Это наиболее надежный способ для контроля точности в расчетах.

...