跳至主要內容
  • Hostloc 空間訪問刷分
  • 售賣場
  • 廣告位
  • 賣站?

4563博客

全新的繁體中文 WordPress 網站
  • 首頁
  • 浮点数精度问题求解,比如 floor(297.9 * 100) / 100 为什么会变成 297.89?
未分類
7 9 月 2020

浮点数精度问题求解,比如 floor(297.9 * 100) / 100 为什么会变成 297.89?

浮点数精度问题求解,比如 floor(297.9 * 100) / 100 为什么会变成 297.89?

資深大佬 : UnrealEngine 11

用 floor 会出现这种问题,但是 round 就没事

但是其他浮点数我也试了下 floor 正常

大佬有話說 (14)

  • 資深大佬 : ClarkAbe

    计算机浮点 0.1+0.2 不等于 0.3

  • 資深大佬 : ClarkAbe

    好吧……眼睛快了

  • 主 資深大佬 : UnrealEngine

    @ClarkAbe 297.9 会出现 297.89 ,但是 1297.9 就没问题……

  • 資深大佬 : cheng6563

    浮点数 k 默认算不准吧,不要靠碰巧了。
    概率什么的用用浮点数还行, 其他地方就不要用了。

  • 資深大佬 : misaka19000

    IEEE754

  • 資深大佬 : mxT52CRuqR6o5

    试一下就知道了
    floor(297.9 * 100)和 round(297.9 * 100)的结果就已经不一样了

  • 資深大佬 : jimages

    因为 297.9 * 100 = 29789.999999999996

  • 主 資深大佬 : UnrealEngine

    @jimages 膜拜大佬~~~~

  • 資深大佬 : msg7086

    因为计算机无法用有限位数浮点来存储 297.9 。

    最接近的可以用 IEEE-754 表示的数,是 297.899993896484375 。
    他下一个可以用 IEEE-754 表示的数,是 297.9000244140625 。
    可以看到,297.9 是一个无法存储的数字。

  • 資深大佬 : lovecy

    精度问题上面大佬#9 说得很清楚了。另外 floor 向下取整,返回 float ; round 四舍五入,返回 float 。对于 297.9,两个函数的返回值本来就不一样,不知道你这里为啥要用这里俩对比。

  • 資深大佬 : ClutchBear

    计算机浮点数存储机制的问题

  • 資深大佬 : b00tyhunt3r

    floating-point-gui.de/errors/comparison/

  • 資深大佬 : a7217107

    IEEE754 月经贴

  • 資深大佬 : CodeCodeStudy

    你用 var_export(297.9 * 100); 就知道了,得到的是 29789.999999999996

文章導覽

上一篇文章
下一篇文章

AD

其他操作

  • 登入
  • 訂閱網站內容的資訊提供
  • 訂閱留言的資訊提供
  • WordPress.org 台灣繁體中文

51la

4563博客

全新的繁體中文 WordPress 網站
返回頂端
本站採用 WordPress 建置 | 佈景主題採用 GretaThemes 所設計的 Memory
4563博客
  • Hostloc 空間訪問刷分
  • 售賣場
  • 廣告位
  • 賣站?
在這裡新增小工具