Excel-浮点算术造成不正确的计算结果
2017-12-18 15:06 来源: 未知
在 Excel 的运算中,有时你会发现近似以下的题目:
B1:0.000123456789012345
B2:1
B3:1.00012345678901
若 B3=B1+B2,不雅察贮存格B3,成果仿佛不准确(应为0.000123456789012345)。那是由于在 Excel 中最多只能贮存 15 个有用位数的切确度而至。
同理,当你在利用很是的数字来运算时,也会遭受有用位数不敷用的题目。
所以你在计较时,若是要求準确度要很邃密的计较,你可能要谨慎一点处置。你可以参考微软的申明:
浮点算术可能会在 Excel 中造成不准确的计较成果(weisupport.microsoft.af/kb/78113/zh-tuozhan)
创作者先容 vincent- 全站分类:不设分类
- 小我分类:课本资料
- 此分类上一篇: Excel-计较日期区间的週数(WEEKDAY)
- 此分类下一篇: Excel-以文字查表计较总和
- 上一篇: Excel-计较日期区间的週数(WEEKDAY)
- 下一篇: Google-搜索邮件
汗青上的今天
- 2016: Excel-表格的转换(OFFSET,北京拓展公司SUMPRODUCT,ROW)
- 2012: Google-搜索邮件
- 2011: Excel-计较通话用度(ROUNDUP)
- 2010: Excel-格局化前提利用(两组乱数比力)
- 2010: Excel-利用SUMPRODUCT製作摘要表
- 2009: 好用的电脑开关办理程式Poweroff