Точное значение
- Код: Выделить всё
0.05[10]=0.00(0011)[2]
double-значение
- Код: Выделить всё
0 01111111010 1001100110011001100110011001100110011001100110011010
или
- Код: Выделить всё
1.1001100110011001100110011001100110011001100110011010*2^-5
0.000011001100110011001100110011001100110011001100110011010
- что превышает точное значение менее чем на 2^-57.
В упомянутом случае с Моандором имеем
koeff=(60/5)*0.05, что в точности равно 0.6 - но не для компьютера, и далее
ceil(10*koeff)=7 - вместо 6.
Удалось воспроизвести в визуалке.