您的位置: 网站首页> IT爱问> 当前文章

excel小数计算误差显示错误解决

老董2022-12-05194围观,148赞

  本站站长擅长用python自动处理excel,请多关注本站。

  其实浮点数运算出现误差在程序里面很常见,这个和计算机底层对小数的存储方式有关并不是excel固有的特点。在python中可以用decimal模块解决,

  部落窝excel教程:我们有时候在用excel进行计算的时候,会遇到Excel计算不准确的的时候!别怕,且看案例!

  5.1-5.2+1,等于多少?当然应该是0.9!这还有什么说的吗!

  但是,当我们将A1单元格设置的数值格式设置为保留到16位小数。

  此时,excel的计算结果是:0.8999999999999990。

  Excel具有15位有效数字的计算精度,有效数字以后的就会被忽略。这种浮点运算误差导致的excel计算不精准通常出现在使用小数运算,或运算过程中包含小数的情况中,在减法和除法中是比较多见的。

  那我们怎么来克服这个问题呢?ROUND 函数会帮到我们!比如说我们在B1单元格输入公式:=ROUND(A1,2),得到0.90。excel种ROUND 函数可以强制四舍五入。

  Excel计算不准确,除了上面这种浮点运算误差产生的之外,还可能是我们人为操作,为了让excel显示成多位数小数,仅是我们看到的是这样,数据本身并没有发生变化,这就是导致表面上看起来的数值与实际数值不一致的原因

  举例如下:下面的C1单元格公式是:=A1+A2,结果应该是180才对,是吧!可是,为什么Excel显示的计算结果是179.99呢?

  实质就是人为设置了单元格格式的原因,将A1、A2单元格都设置了保留两位小数来显示。怎么看出来的呢?

  选中A1单元格,看看编辑栏,原形毕露了吧,A1单元格实质是19.995,而不是20。

  同样A2单元格是159.995,也不是真正我们看到的160。

  同样的,我们可以根据实际工作中需要的结果,来选择不同类型的四舍五入函数来灵活解决。

很赞哦!

python编程网提示:转载请注明来源www.python66.com。
有宝贵意见可添加站长微信(底部),获取技术资料请到公众号(底部)。同行交流请加群 python学习会

文章评论

    excel小数计算误差显示错误解决文章写得不错,值得赞赏

站点信息

  • 网站程序:Laravel
  • 客服微信:a772483200