有些编译器和硬件是支持乘除法和浮点运算，运用起来也是很方便！唯一让我不满的就是很占用ROM ! 所以某些平台恰好可以用移位来换算！学习推算心得：分母是为 2的平方的情况下成立！ 2.4.8.16.32.64.128.256.512.1024.2048......左移1位 相当于 乘以2 左移2位 相...
分类：
编程语言 时间：
2014-09-17 18:31:32
阅读次数：
447
之前一直以为，在js的位运算中，双精度浮点数在内部会先被转成32位整数，再执行位运算，然后再转为64位数值，因此效率极低。今天实验发现，对浮点执行位运算只会导致数值不准确，而不会导致效率低下，相比乘法，左移位要快66%（其实就是浮点运算与整数运算的差距）。以下结果在 IE 7 ~ IE 10 上测试...
分类：
编程语言 时间：
2014-09-01 22:21:13
阅读次数：
306
和 Uva 10020几乎是一样的，不过这里要把圆形区域转化为能够覆盖的长条形区域(一个小小的勾股定理)学习一下别人的代码，练习使用STL的vector容器这里有个小技巧，用一个微小量EPS来弥补浮点运算中的误差 1 //#define LOCAL 2 #include 3 #include 4.....
分类：
其他好文 时间：
2014-09-01 19:15:03
阅读次数：
262
在js浮点运算中var a=0.2-0.1;var b=0.3-0.2;console.log(a==b);答案是什么呢，很多人可能认为是true，包括我在内，但是当我写出来运行了一下，我被答案惊呆了，上图小伙伴们，惊呆了有木有！然后我赶紧问度娘，然后终于找到了答案，原来js运算的时候是要转成二进制...
分类：
Web程序 时间：
2014-09-01 12:11:23
阅读次数：
194
原文：http://blog.csdn.net/dlutxie/article/details/7980389浮点运算一直是定点CPU的难题，比如一个简单的1.1+1.1，定点CPU必须要按照IEEE-754标准的算法来完成运算，对于8位单片机来说已经完全是噩梦，对32为单片机来说也不会有多大改善。...
分类：
其他好文 时间：
2014-08-27 12:53:57
阅读次数：
285
前段时间用verilog写了一个32bit的risc cpu,五级流水，下板调试已经完全可用，准备后期加入浮点运算器，因为最近事情超级多，因此暂时先把RTL图传上来供大家参考，后面我会讲具体怎么设计。希望大家多多关注 :)
分类：
其他好文 时间：
2014-08-24 08:04:32
阅读次数：
178
大多数语言在处理浮点数的时候都会遇到精度问题，但是在JS里似乎特别严重，来看一个例子alert(45.6*13);结果居然是592.800000000001，当然加法之类的也会有这个问题那这是js的错误吗？当然不是，你的电脑做着正确的二进制浮点运算，但问题是你输入的是十进制的数，电脑以二进制运算，这...
分类：
编程语言 时间：
2014-08-13 21:49:27
阅读次数：
192
项目中包含浮点运算，大概每秒 20 - 100 万左右. 其计算结果每秒只包含1000个左右。 因此大量运算是重复性的。程序运行时，cpu 在 3% - 10% 浮动。打算将结果缓存。根据键值索值。目前考虑数据类型有: SortedList , SortedDictionary , Dictiona...
分类：
其他好文 时间：
2014-08-11 17:10:42
阅读次数：
202
你需不需要一台每秒可以进行数百万亿次浮点运算的机器？或者，你想不想知道点关于你家地下室里的超级计算机是如何上电运行的趣事儿？建造一台属于自 己的计算集群——亦即超级计算机——是每个闲得发慌还有钱烧的专业极客都能做到的事情！从技术上来讲，一台现代多处理器超级计算机实际上是一个计算机网 络，这些计算机并...
分类：
其他好文 时间：
2014-08-08 11:58:05
阅读次数：
303
转载自:Daywei 高精度乘法计算高精度乘法计算基础1.高精度浮点运算方法 高精度浮点（Floating Point，FP）运算可以转换成整数型运算。由于高精度浮点数可以看成是由整数部分（Integer Part，IP）与小数部分（Decimal Part，DP）的组合，因此其乘法可以看成以下3....
分类：
其他好文 时间：
2014-07-27 23:20:19
阅读次数：
309
