标签：循环 span style 数据 表示范围 数据量 超出 bsp 二进制
●在用计算机进行科学计算时，经常会遇到“溢出”，这是指__（）__。
A．数据量超出了内存容量 B．数值超出了指定数据类型的表示范围
C．数据的类型超出了指定范围 D．数值的格式不符合计算机的要求
试题答案：B
● 求0.125的二进制小数方法
0.125 * 2 = 0.25 --0
0.25 * 2 = 0.5 --0
0.5 * 2 = 1 --1
结束
0.125的二进制为 0.001 即 1*E-3
● 求0.6的二进制小数方法
0.6*2 = 1.2 --1 (余数0.2) 0.2*2 = 0.4 --0 (余数0.4) 0.4*2 = 0.8 --0 (余数0.8) 0.8*2 = 1.6 --1 (余数0.6) 0.6*2 = 1.2 --1 (余数0.2) ... 进入无限循环 0.6的二进制小数 0.1001100110011...
标签：循环 span style 数据 表示范围 数据量 超出 bsp 二进制
原文地址：https://www.cnblogs.com/coloz/p/11261920.html
