Excel-浮点算术造成不正确的计算结果-真人cs 

网易商城

我的美女好

主页 > 网站新闻 > 正文

Excel-浮点算术造成不正确的计算结果

2017-12-18 15:06 来源: 未知

 

在 Excel 的运算中,有时你会发现近似以下的题目:

B1:0.000123456789012345

B2:1

B3:1.00012345678901

若 B3=B1+B2,不雅察贮存格B3,成果仿佛不准确(应为0.000123456789012345)。那是由于在 Excel 中最多只能贮存 15 个有用位数的切确度而至。

同理,当你在利用很是的数字来运算时,也会遭受有用位数不敷用的题目。

所以你在计较时,若是要求準确度要很邃密的计较,你可能要谨慎一点处置。你可以参考微软的申明:

浮点算术可能会在 Excel 中造成不准确的计较成果(weisupport.microsoft.af/kb/78113/zh-tuozhan)

创作者先容 vincent

学不完.教不断.用不尽

  • 全站分类:不设分类
  • 小我分类:课本资料
  • 此分类上一篇: Excel-计较日期区间的週数(WEEKDAY)
  • 此分类下一篇: Excel-以文字查表计较总和
  • 上一篇: Excel-计较日期区间的週数(WEEKDAY)
  • 下一篇: Google-搜索邮件
汗青上的今天
  • 2016: Excel-表格的转换(OFFSET,北京拓展公司SUMPRODUCT,ROW)
  • 2012: Google-搜索邮件
  • 2011: Excel-计较通话用度(ROUNDUP)
  • 2010: Excel-格局化前提利用(两组乱数比力)
  • 2010: Excel-利用SUMPRODUCT製作摘要表
  • 2009: 好用的电脑开关办理程式Poweroff
▲top