0.前言 最近在看计算机组成原理的浮点数部分，突然想起之前看过的一道快手面试题 为什么js中0.1+0.2不等于0.3,应该如何解决？ 这里我们可以借这道题来说一下js的精度问题 1.JS数的储存 二进制和浮点数和定点数 首先计算机里面的数据肯定以二进制形式存储对于同一段二进制码，不同的解读方式肯定 ...
分类：
Web程序 时间：
2020-11-01 20:44:00
阅读次数：
33
前 数据库管理系统（DBMS）一直以来作为计算机的重要部分，在工业界和学术界都经过了长时间的发展，里面许多的设计技术如scalability、reliability都用到了其它的系统里。 The Life of a Query 数据库管理系统，尤其是关系型数据库管理系统（RDBMS）在当前的绝大多数 ...
分类：
数据库 时间：
2020-11-01 10:06:21
阅读次数：
19
先将十六进制的转化为二进制的，即A——1010,3——0011,6——0110,8——1000，所以转化过后的结果为： 1010 0011 ||0110 1000 00000000 因为阶码为8位，所以从竖线那里分割，前面是阶码，第一个1为符号位，把阶码转化为原码得：11011101，可得值为：-9 ...
分类：
其他好文 时间：
2020-10-31 01:41:50
阅读次数：
30
java中的数据类型分为：基本数据类型和引用数据类型基础类型4种整数类型：int、long、byte、short2种浮点数类型：float、double1种字符类型：char1种布尔类型：boolean引用数据类型类接口数组对于基本类型来说，==比较的是值是否相等对于引用类型来说，==比较的是两者在内存中存放的地址（堆内存地址）publicclasstest1{publicstaticvoidma
分类：
其他好文 时间：
2020-10-30 13:08:04
阅读次数：
20
JSON 语法 JSON 语法是 JavaScript 语法的子集。 JSON 语法规则 JSON 语法是 JavaScript 对象表示语法的子集。 数据在名称/值对中 数据由逗号分隔 大括号 {} 保存对象 中括号 [] 保存数组，数组可以包含多个对象 JSON 名称/值对 JSON 数据的书写 ...
分类：
Web程序 时间：
2020-10-22 22:17:53
阅读次数：
27
位运算是指按二进制进行的运算。在系统软件中，常常需要处理二进制位的问题。C语言提供了6个位操作运算符，这些运算只能用于整型操作数，即只能用于带符号或无符号的char、short、int与long类型。浮点数因为浮点型和整型在计算机内的存储方式大相径庭，同样是32位。但是浮点数是1位表示符号位，23位 ...
分类：
编程语言 时间：
2020-10-19 22:55:34
阅读次数：
30
IEEE754 浮点数 - 使用python 实现类浮点数转换功能 5.75 >0.10000001.01110000000000000000000 161.875 >0.10000110.01000011110000000000000 -0.0234375 >1.01111001.10000000 ...
分类：
其他好文 时间：
2020-10-18 10:03:20
阅读次数：
16
5.75的单精度浮点数为0 10000001 01110000000000000000000 161.875的单精度浮点数为0 10000110 01000011110000000000000 -0.0234375的单精度浮点数为10111100110000000000000000000000 S代 ...
分类：
其他好文 时间：
2020-10-18 09:50:39
阅读次数：
12
BigDecimal类是用于浮点数的精确计算。 如果用float double基本数据类型的数据进行相关运算，结果具有舍入误差，就是结果约等于我们想的实际结果，这时候就需要用BigDecimal类对浮点数进行精确计算得到正确结果。 创建方式：BigDecimal bd =new BigDecimal ...
分类：
其他好文 时间：
2020-10-16 10:28:50
阅读次数：
18
var x = 111; var f = parseFloat(x); // 解析一个字符串，返回一个浮点数； var f = Math.round(x*100)/100; var s = f.toString(); // 把一个逻辑值转换为字符串，并返回结果； var rs = s.indexOf ...
分类：
其他好文 时间：
2020-10-12 20:37:35
阅读次数：
23
