您的位置: 网站首页> IT爱问> 当前文章
excel小数计算误差显示错误解决
老董2022-12-05194围观,148赞
本站站长擅长用python自动处理excel,请多关注本站。
其实浮点数运算出现误差在程序里面很常见,这个和计算机底层对小数的存储方式有关,并不是excel固有的特点。在python中可以用decimal模块解决,
部落窝excel教程:我们有时候在用excel进行计算的时候,会遇到Excel计算不准确的的时候!别怕,且看案例!
5.1-5.2+1,等于多少?当然应该是0.9!这还有什么说的吗!
但是,当我们将A1单元格设置的数值格式设置为保留到16位小数。
此时,excel的计算结果是:0.8999999999999990。
Excel具有15位有效数字的计算精度,有效数字以后的就会被忽略。这种浮点运算误差导致的excel计算不精准通常出现在使用小数运算,或运算过程中包含小数的情况中,在减法和除法中是比较多见的。
那我们怎么来克服这个问题呢?ROUND 函数会帮到我们!比如说我们在B1单元格输入公式:=ROUND(A1,2),得到0.90。excel种ROUND 函数可以强制四舍五入。
Excel计算不准确,除了上面这种浮点运算误差产生的之外,还可能是我们人为操作,为了让excel显示成多位数小数,仅是我们看到的是这样,数据本身并没有发生变化,这就是导致表面上看起来的数值与实际数值不一致的原因。
举例如下:下面的C1单元格公式是:=A1+A2,结果应该是180才对,是吧!可是,为什么Excel显示的计算结果是179.99呢?
实质就是人为设置了单元格格式的原因,将A1、A2单元格都设置了保留两位小数来显示。怎么看出来的呢?
选中A1单元格,看看编辑栏,原形毕露了吧,A1单元格实质是19.995,而不是20。
同样A2单元格是159.995,也不是真正我们看到的160。
同样的,我们可以根据实际工作中需要的结果,来选择不同类型的四舍五入函数来灵活解决。
很赞哦!
python编程网提示:转载请注明来源www.python66.com。
有宝贵意见可添加站长微信(底部),获取技术资料请到公众号(底部)。同行交流请加群
下一篇:excel标记当月生日提醒功能
相关文章
文章评论
-
excel小数计算误差显示错误解决文章写得不错,值得赞赏