码迷,mamicode.com
首页 > 其他好文 > 详细

008_浮点数误差问题

时间:2018-10-14 11:19:58      阅读:182      评论:0      收藏:0      [点我收藏+]

标签:pad   科学   e30   形式   情况   ali   3.1   问题   十进制   

一、浮点数

  a):float类型又被称作单精度类型,尾数可以精确到7位有效数字,在很多情况下,float类型的精度很难满足需求。

  b):double表示这种类型的数值精度是float类型的两倍,又被称作双精度,绝大部分应用程序都采用double类型。

二、浮点数的表述范围

  

类型

占用存储空间

表数范围

float

4字节

-3.403E38~3.403E38

double

8字节

-1.798E308~1.798E308

三、在java中表示浮点数的两种表示形式

  a):十进制形式  如:3.14       314.0      0.314

  b):科学记数法形式  如: 314e2      314E2      314E-2

008_浮点数误差问题

标签:pad   科学   e30   形式   情况   ali   3.1   问题   十进制   

原文地址:https://www.cnblogs.com/aeon/p/9785078.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!