本文由 "CPU阿甘" 改编而得，主要讲的是系统启动和程序执行时CPU做的工作。 CPU的构成 中央处理器（CPU，Central Processing Unit）由运算器、控制器、Cache等。 控制器：主要是对指令进行译码。 运算器：主要是执行定点或者浮点运算等。 寄存器：主要功能是保存计算的中 ...
分类：
其他好文 时间：
2018-02-19 12:56:34
阅读次数：
253
【代码】 【运行结果】 【分析】 为什么和我们预想的不一样呢？借用《Effactive Java》这本书中的话，float和double类型的主要设计目标是为了科学计算和工程计算。他们执行二进制浮点运算，这是为了在广域数值范围上提供较为精确的快速近似计算而精心设计的。然而，它们没有提供完全精确的结果 ...
分类：
其他好文 时间：
2018-02-15 15:57:41
阅读次数：
208
类型转换通常是指变量，从一种类型转换成另外一种类型。例如将一个long类型转换成int类型，变量转换通常 用下面的方式： 在Objective-C中，我们通常使用CGFloat来做浮点运算，32位是float类型，64位是double类型，通常转换方式 如下操作： 上面代码编译执行后的结果： 这里说 ...
分类：
其他好文 时间：
2018-02-06 16:40:55
阅读次数：
145
看了大师的文章，理解了这些代码。 所以可以明白：Linux的系统负载指运行队列的平均长度，也就是等待CPU的平均进程数。 Linux的系统负载指运行队列的平均长度，也就是等待CPU的平均进程数。因为Linux内禁止浮点运算，因此系统的负载只能通过计算变化的次数这一修 正值来计算。Linux内核定义一 ...
分类：
其他好文 时间：
2018-01-30 00:31:27
阅读次数：
236
购买显卡主要关注：显存、带宽和浮点运算数量 GPU ：图形处理器（英语：Graphics Processing Unit，缩写：GPU），又称显示核心、视觉处理器、显示芯片，是一种专门在个人电脑、工作站、游戏机和一些移动设备（如平板电脑、智能手机等）上图像运算工作的微处理器。 用途是将计算机系统所需 ...
分类：
其他好文 时间：
2018-01-29 22:32:38
阅读次数：
267
在科学计算及工程计算时，常常用float或者double类型；在商业计算中受制于浮点运算二进制的表示方式，无法精确表示分数，为此Java提供了两个对大数字（超过16位有效位）进 行高精度计算的操作类： 1、java.math.BigInteger：针对整数的处理； 2、java.math.BigDe ...
分类：
其他好文 时间：
2018-01-23 20:20:49
阅读次数：
183
shell中的数学计算 一、使用方括号 二、bc的用法 bc技术器实际上是一种编程语言，它可以识别： 数字（整数和浮点数）变量（简单变量和数组）注释（以#或C语言中的/* */开始的行）表达式编程语句（例如if-then语句）函数 浮点运算是由内建变量scale控制的。必须将这个值设置为你希望在计算 ...
分类：
系统相关 时间：
2018-01-19 11:37:45
阅读次数：
234
五.计算机的运算方法 --在计算机中参与运算的数有两大类：无符号数和有符号数 无符号数：没有符号的数 有符号数 机器数与真值：机器中：0表示正，1表示负 原码表示法：把真值的正负用01表示 补码表示法：真值为正时，与原码相同，真值为负时，补码是原码的“求反加一” 反码表示法：真值为正时，与原码相同， ...
分类：
其他好文 时间：
2018-01-03 00:52:30
阅读次数：
203
《深入理解计算机系统（第三版）》第二章 信息的表示和处理 计算机本身是由处理器和存储器子通过系统组成。在核心部分，我们需要方法来表示基本数据类型，比如整数和实数运算的近似值。然后，我们考虑机器级指令如何操作这样的数据，以及编译器又如何将C程序翻译成这样的指令。接下来，研究几种 ...
分类：
其他好文 时间：
2017-12-17 18:20:11
阅读次数：
111
本章我们来研究三种重要的数字表示 无符号是基于传统二进制表示法，表示大于或等于0的数字 补码是表示有符号整数的最常见方式，有符号整数可以是正或者为负 浮点数是表示实数的科学计数法的以2为基数的版本 计算机的表示法是用有限的数量的位表示的数字编码，所以，结果太大的时候，某些运算就会溢出。浮点运算溢出会 ...
分类：
其他好文 时间：
2017-12-16 22:06:12
阅读次数：
275
