第二章 信息的表示和处理三种数字：无符号数、有符号数（2进制补码）、浮点数溢出：计算机的表示法是用有限数量的位来对一个数字编码，当结果太大以至不能表示时，会溢出整数运算：编码的数值范围较小，精确；浮点运算：数值范围较大，近似，不可结合§1 信息存储最小的可寻址的存储器单位：字节（8位）虚拟存储器、地...
分类：
其他好文 时间：
2015-10-04 18:29:56
阅读次数：
245
第二章2.1信息存储1、数字的三种表示无符号数：传统的二进制表示法，表示大于或等于零的数字 补码：表示有符号数，可为正可为负的数字 浮点数：实数的科学计数法的以二为基数的版本 整数运算和浮点数运算会有不同的数学属性。 原因：处理数字表示有限性的方式不同 整数表示：编码的数值范围相对较小，但精确 浮点...
分类：
其他好文 时间：
2015-10-04 13:31:28
阅读次数：
262
第二章 信息的表示和处理一、前言1、二进制数字称为位（bit）2、三种重要的数字表示：无符号编码、补码（有符号）、浮点数（科学计数法）3、浮点运算虽然溢出会产生特殊的值 + ∞,但是一组正数的乘积总是正的。由于表示的精度有限,浮点运算是不可结合的。整数运算和浮点数运算会有不同的数学属性是因为它们处理...
分类：
其他好文 时间：
2015-10-03 14:25:25
阅读次数：
209
http://blog.sina.com.cn/s/blog_6db275da0101asmf.html((i=$j+$k))等价于 i=`expr $j + $k`((i=$j-$k))等价于i=`expr $j -$k`((i=$j*$k))等价于i=`expr $j \*$k`((i=$j/$...
分类：
系统相关 时间：
2015-09-08 21:55:25
阅读次数：
263
对于计算机来说，加减乘除法全部用二进制来实现，那么他们是如何实现的呢？ 先说加法，加法有两种，其实区别不大只是解释方式不同，原码加法（无符号）和补码加法（有符号，加完依然是补码）。方法都一样，有一落一，无一落零，两一进位。但这样必须考虑溢出的问题，对于32位机，所有数都用32位来表...
分类：
其他好文 时间：
2015-09-04 18:35:17
阅读次数：
177
二进制浮点数,IEEE标准
额...啥叫IEEE标准?别着急啊,往后看,这一次我和大家一起学习一下浮点数,这里没有无符号,没有补码,俗话说得好,上帝给你关了一扇门,肯定给你打开一扇窗,没有那种东西饿,肯定有别的.如果你真正进入了浮点数的世界,离着你称霸武林不远了!
写在前面
整数运算虽然能解决计算机当中有关信息的一部分分存储,运算等功能,但却仍然是不够的.否则结社我们要做一个超市...
分类：
其他好文 时间：
2015-08-16 13:47:52
阅读次数：
151
二进制整数的加,减运算
前言
在平时的编程中,当进行整数运算时,经常会遇到一些奇怪的结果,比如两个正数相加出现了负数,两个负数相加出现了正数,这些都是因为数值表示的有限性导致的.来看一个案例:
int a = 0x7FFFFFFF;
int b = 0x7FFFFFFF;
Conso...
分类：
其他好文 时间：
2015-08-14 15:43:06
阅读次数：
286
Bash只支持整数运算，不支持浮点运算。如果需要进行浮点运算，需要使用bc程序。Bash中的数学扩展有两种形式：$[ expression ]或$(( expression ))例子：$echo $[5+4-2]7$echo $[ 5*(6-2) ]20var1=100var2=50var3=45v...
分类：
其他好文 时间：
2015-08-09 00:16:37
阅读次数：
176
CleverCode最近在导出报表的时候，在整数做减法的时候，发现整数减去null得到是null。这是一个细节问题，希望大家以后注意。
1 表中的数据
total，used都是整形，允许为空。
2 有问题的运算语句
减法问题
select
id,
total,
used,
(total - used) as have
from test_table...
分类：
数据库 时间：
2015-07-24 10:45:58
阅读次数：
184
本文转载地址：http://www.cnblogs.com/zuoxiaolong/p/computer11.html 2.6我们进行了二进制整数运算的最后一役，本次LZ将和各位一起进入浮点数的世界，这里没有无符号，没有补码，但是有各种各样的惊奇。倘若你真正的进入了浮点数的世界，一定会发现它原来是....
分类：
其他好文 时间：
2015-07-08 12:19:52
阅读次数：
105
