码迷,mamicode.com
首页 > 其他好文 > 详细

浮点数比较

时间:2019-03-01 18:36:56      阅读:176      评论:0      收藏:0      [点我收藏+]

标签:htm   应该   .com   tps   amp   等于   bsp   相等   误差   

不要用 a == b的办法判断两个浮点数是否相等,包括不要用  a== 0的办法判断浮点数 a是否等于0。因为浮点数是有误差的。

应该用  a-b > -eps && a-b < eps  ,即a和b的差的绝对值小于某个很小值 eps的办法来判断a和b是否相等。

如果结果要保留小数点后面n位,那么 eps可以取 10的-(n+1)次方。

 

引自https://www.cnblogs.com/huashanqingzhu/p/7221791.html

浮点数比较

标签:htm   应该   .com   tps   amp   等于   bsp   相等   误差   

原文地址:https://www.cnblogs.com/dhfly/p/10458018.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!