precision意为“精密度、精确”(精度),表示该字段的有效数字位数了。 scale意为“刻度、数值范围”(),表示该字段的小数位数。 举个简单的例子 123.45:precision = 5 ,scale = 2 precision 数据长度 scale 小数长度 ...
分类:
其他好文 时间:
2018-11-11 11:46:27
阅读次数:
220
数据库 数据库(database,DB)是指长期存储在计算机内的,有组织,可共享的数据的集合。数据库中的数据按一定的数学模型组织、描述和存储,具有较小的冗余,较高的数据独立性和易扩展性,并可为各种用户共享。 数据库管理系统软件 数据库管理系统(Database Management System)是 ...
分类:
数据库 时间:
2018-11-06 11:17:17
阅读次数:
237
JS的数据精度问题,当数值范围超过限制,即会转换为科学计数法,数据精度就会出现误差算法:function bigNumberAdd(a,b) { var res = '', c = 0;//进位值,初始c值为0 a = a.split('');//将数据拆分为数组 b = b.split('');/ ...
分类:
编程语言 时间:
2018-11-03 19:14:32
阅读次数:
187
给定一个 32 位有符号整数,将整数中的数字进行反转。 示例 1: 示例 2: 示例 3: 注意: 假设我们的环境只能存储 32 位有符号整数,其数值范围是 [?231, 231 ? 1]。根据这个假设,如果反转后的整数溢出,则返回 0。 解答: 结果: ...
分类:
其他好文 时间:
2018-10-23 14:38:08
阅读次数:
154
1.python环境搭建方便,只需要安装python解释器 2.python把任意数据类型赋值给变量,不用定义类型 3.Python的整数浮点数没有大小限制,不用担心超过数值范围。比如java的 int,long 4.python自带最常用的list列表和dicitonary字典,处理一般的数据够用 ...
分类:
编程语言 时间:
2018-10-21 01:02:56
阅读次数:
183
C++产生随机数 C++中没有自带的random函数,要实现随机数的生成就需要使用rand()和srand()。 不过,由于rand()的内部实现是用线性同余法做的,所以生成的并不是真正的随机数,而是在一定范围内可看为随机的伪随机数。 rand() rand()会返回一随机数值, 范围在0至RAND ...
分类:
编程语言 时间:
2018-10-14 19:12:20
阅读次数:
181
1.引言 float和double类型的主要设计目标是为了科学计算和工程计算。他们执行二进制浮点运算,这是为了在广域数值范围上提供较为精确的快速近似计算而精心设计的。然而,它们没有提供完全精确的结果,所以不应该被用于要求精确结果的场合。但是,商业计算往往要求结果精确,这时候BigDecimal就派上 ...
分类:
其他好文 时间:
2018-10-10 23:47:32
阅读次数:
199
Float解析 常用方法 解析 内部原理实现 Float数值范围大小 表示形式 ...
分类:
其他好文 时间:
2018-10-08 12:10:49
阅读次数:
554
*原码,反码,补码必须满8位,不足在前填0; 1,原码:用符号位和数值位表示一个带符号的数 + -> 0 - -> 1 表示数的范围-127~+127 例如:[+10011]原=00010011 [-10011]原=10010011 [+0]原=00000000 [-0]原=10000000 2,反 ...
分类:
编程语言 时间:
2018-10-07 13:44:23
阅读次数:
176
1、基本数据类型 Java中的基本数据类型有4类8种。 Java中默认的整型为int类型,默认的浮点型为double类型。 2、变量定义 变量定义格式为:数据类型 变量名 = 变量值; 3、数据类型的转换 自动转换(表示数值范围小的数据类型转换为表示范围打的数据类型) 范围大的数据类型 变量名 = ...
分类:
编程语言 时间:
2018-10-06 17:55:24
阅读次数:
198