Цитата:
Сообщение от Valentin8080
При A=129 получаем (129-128)*100/128=100/128=0,78125.
Кол-во знаков после запятой в данном случае высчитывается автоматически таким образом, чтобы общее кол-во цифр в числе с запятой было 4 штуки. В чем тут ошибка?
|
Следующее значение A=130 даст (130-128)*100/128=200/128=1,56250.
Значений между 0,78125 и 1,56250 программа не покажет никогда.
Показывать какой-то знак после запятой имеет смысл если "прибор" действительно может показать достоверные значения, отличающиеся только цифрой в этом последнем знаке (0,78125 0,78126 0,78127...).
В нашем-же случае, после 0,78125 сразу идёт 1,56250 и разница в пятом, четвёртом, третьем (а если честно то и во втором и первом) знаке после запятой никакой смысловой нагрузки не несёт .
Иначе создаётся впечатление что около нуля "прибор" показывает точнее (с тремя знаками после запятой) чем на краях диапазона (только с одним знаком). А это не так.