码迷,mamicode.com
首页 >  
搜索关键字:双精度    ( 626个结果
判断两个双精度浮点数是否整除!
这几天在开发公司项目中,由于属于期货产品,所以在此过程中遇到价格和最小单位价格的除法计算。 众所周知浮点数在计算机中为近视值。比如价格,客户端输入的价格为145.5,但是我的服务端断点显示为145.49999999999998。 当然从CTP服务器(期货那边的服务器)最小单位价格实为0.5,但是断点 ...
分类:其他好文   时间:2017-05-17 12:08:41    阅读次数:596
值类型与引用类型的区别
值类型 基本类型 4类8种 整型 byte 字节型 1长度 0~255 short 短整型 2长度 int 整型 4长度 long 长整型 8长度 浮点型 float 单精度浮点型 double 双精度浮点型 字符型 char 单字符型 数据必须包裹在单引号之间 波尔型 bool 逻辑型 true ...
分类:其他好文   时间:2017-05-12 23:58:12    阅读次数:369
java基本数据类型
Java的基础数据 基础数据类型: byte-->2的8次方 256 -127--128 short-->2的16次方 int-->32次方 long-->64次方 浮点类型: float 单精度浮点类型7倍 double 双精度11倍 布尔类型: boolean true/false 字符型: c ...
分类:编程语言   时间:2017-05-09 19:39:20    阅读次数:150
《手把手教你学C语言》学习笔记(6)---数据类型
计算机中需要保存信息,就需要数据存储,数据的存储就需要划分数据类型。主要包括:基本数据类型、指针类型、构造类型、空类型。 基本类型:整型 主要用来表示整数,可以分为无符号和有符号;又分为基本整型、短整型和长整型。 浮点型 带小数点的数,主要分为单精度和双精度类型 字符型 表示字面量 构造类型:数组和 ...
分类:编程语言   时间:2017-05-09 19:00:04    阅读次数:180
java的数据基础
java的基础数据 基础数据类型(整数型) byte > 2的8次方(取值范围) 256 -127 128 short > 2的16次方 int >2的32次方 long >2的64次方 浮点类型 float 单精度浮点类型7 double 双精度11 布尔类型 boolean 结果只有(true, ...
分类:编程语言   时间:2017-05-09 16:52:25    阅读次数:197
5.9java基础
1.java的基础数据 2.数字类型(整数型) (1)byte-->2的8次方 (2)short-->2的16次方 (3)int-->2的32次方(用到的会比较多) (4)long-->2的64次方 3.浮点类型 (1)float 单精度浮点类型 7位 (2)double 双精度浮点类型 4.布尔类 ...
分类:编程语言   时间:2017-05-09 15:46:55    阅读次数:185
Java变量
变量 变量:一个数据的存储空间表示(代词) 变量的基本语法 数据类型 变量名=数值 //声明变量 赋值 变量的使用 a.变量必须声明,并且初始化后才能使用。 b.变量名不能重复。 数据类型 int(整数)double(双精度浮点数) char(字符)String(字符串) 补充:8种基本数据类型 b ...
分类:编程语言   时间:2017-05-09 12:41:36    阅读次数:145
字符串常用-----atof()函数,atoi()函数
头文件:#include <stdlib.h>函数 atof() 用于将字符串转换为双精度浮点数(double),其原型为:double atof (const char* str);atof() 的名字来源于 ascii to floating point numbers 的缩写,它会扫描参数st ...
分类:其他好文   时间:2017-05-04 21:58:33    阅读次数:127
6.java基本类型
1.整型 byte:字节类型(占1个字节),取值范围:-128~127 short:短整型(占2个字节) int:整型(占4个字节) long:长整型(占8个字节) 2.浮点型 float:单精度浮点型(占4个字节) double:双精度浮点型(占8个字节) 3.字符型: char:占2个字节 4. ...
分类:编程语言   时间:2017-04-23 18:54:33    阅读次数:162
GPU入门
CPU和GPU区别,CPU像是一头牛,GPU像是一万只小鸡。 关于CPU设计理念:基于低延时性设计 结论:CPU运算速度更快,指令周期短,即便是双精度的浮点数乘法也只需要1~3个时钟周期。 GPU的设计理念:基于吞吐量。 ALU,Cache:GPU的特点是有很多的ALU和很少的cache. 缓存的目 ...
分类:其他好文   时间:2017-04-13 09:14:42    阅读次数:283
626条   上一页 1 ... 28 29 30 31 32 ... 63 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!