码迷,mamicode.com
首页 > 其他好文 > 详细

程序是怎样跑起来的第三章

时间:2019-02-20 19:54:33      阅读:136      评论:0      收藏:0      [点我收藏+]

标签:相同   浮点数   怎样   二进制格式   exce   部分   精确   整数   一个   

程序是怎样跑起来的第三章

 

这一章讲了计算机计算小数时出错的原因,计算机之所以叫"计算"机就是因为发明它主要是用来计算的,"计算"当然是它的特长,在大家的印象中,计算一定是非常准确的。但实际上, 整数和小数没有太大的差别,是因为计算机内部所有信息都是以二进制数的形式来处理的,但使用二进制表示整数和小数的方法基本相同,比如小数点前和小数点后将个数位的数值和位全相乘的结果相加;浮点数是由符号尾数基数和指数构成的,接下来分别介绍,符号指使用一个数据位来表示数值的符号,尾数部分用的是将小数点前面的值固定为1的正则表达式,指数部分是EXCESS系统表现的;尾数部分使用正则表达式按照特定的规则表示数据的形式;如何避免计算机在计算小数时出现错误:1,根据程序目的不同,无视错误!2,把小数转化成整数计算,采用BCD方法。比如0.1这个数,计算机是用一种二进制格式存储小数的,这个二进制格式不能精确表示0.1,它只能表示一个非常接近0.1但又不等于0.1的一个数,数字都不能精确表示,在不精确数字上的运算结果不精确也就不足为奇了。

  避免计算机出现的错误有这两种方法:一就是回避策略,即无视这些错误。另一个呢就是把小数转换成整数来计算。

程序是怎样跑起来的第三章

标签:相同   浮点数   怎样   二进制格式   exce   部分   精确   整数   一个   

原文地址:https://www.cnblogs.com/LiangIT12138/p/10408526.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!