浮点数精度问题求解,比如 floor(297.9 * 100) / 100 为什么会变成 297.89?
資深大佬 : UnrealEngine 11
用 floor 会出现这种问题,但是 round 就没事
但是其他浮点数我也试了下 floor 正常
大佬有話說 (14)
用 floor 会出现这种问题,但是 round 就没事
但是其他浮点数我也试了下 floor 正常
最接近的可以用 IEEE-754 表示的数,是 297.899993896484375 。
他下一个可以用 IEEE-754 表示的数,是 297.9000244140625 。
可以看到,297.9 是一个无法存储的数字。