码迷,mamicode.com
首页 > 其他好文 > 详细

浮点数陷阱

时间:2015-08-14 13:14:15      阅读:118      评论:0      收藏:0      [点我收藏+]

标签:

 

  陷阱一

 

if(0.1+0.1+0.1 == 0.3)  
    printf("equal\n");  
else  
    printf("not equal\n");  

 

  会输出"equal"吗?不会!实际浮点数运算时,0.1+0.1+0.1 != 0.3

 

   陷阱二

 

double i;
for(i=0;i!=10;i+=0.1)
    printf("%.1lf\n",i);

 

  程序会从0.0打印至9.9时结束循环吗?不会!因为i永远也不可能等于10,这个会无限循环

 

  产生上述陷阱的原因

 

  计算机中的所有数据都使用二进制表示的,包括浮点数,这就导致某些浮点数不能用二进制精确表示,例如0.1(这很容易理解,就像10/3=0.33333……不能被十进制精确表示一样)

  例如:

    (0.5)10 = 2-1 = (0.1)2

    (0.75)10 = 2-1 + 2-2 = (0.11)2

    (0.875)10 = 2-1 + 2-2 + 2-3 = (0.111)2

    (0.1)10 = 2-4 + 2-5 + 2-8 + …… = (0.00011001……)2

  其中0.1只能无限循环下去,这就意味着0.1在计算机中不能被精确表示,因此产生上述两个陷阱也就很容易理解,它们都涉及了不能用二进制精确表示的0.1参与运算,所以得不到预期的结果。例如陷阱二,把步长改为可以用二进制精确表示的0.5,则不会无限循环下去。

 

浮点数陷阱

标签:

原文地址:http://www.cnblogs.com/eniac12/p/4729470.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!