码迷,mamicode.com
首页 >  
搜索关键字:浮点运算    ( 220个结果
【转】 armeabi与armeabi-v7a
1、armeabiarmeabi是指的该so库用于Arm的通用CPU。2、armeabi-v7av7a的CPU支持硬件浮点运算。3、共同点armeabi和armeabi-v7a是表示cpu的类型。4、不同点因此armeabi通用性强,但速度慢,而v7a能充分发挥v7a CPU的能力。armeabi就...
分类:其他好文   时间:2014-11-20 18:27:29    阅读次数:139
整数(浮点数)转字符串
在实际项目中,我们不可避免的遇到需要将整数(浮点数)转换为字符串输出(保存为文件或者显示打印)。这是一个很常见的算法,标准C库甚至提供了诸如itoa,ltoa,之类的函数供大家调用。但是,在一些特殊场合,比如对功耗要求比较苛刻的场合,则对转换速度提出了要求。在单片机应用中,很多mcu没有除法器,和除法指令,我们就得变通一下。 1. 浮点数转字符串      我们知道,在单片机中,浮点运算是比较...
分类:其他好文   时间:2014-11-12 16:39:12    阅读次数:280
IEEE754 学习总结
以下是参考《IEEE754 学习总结》并结合自己学习总结一:前言二:预备知识三:浮点数的表示范围四:将浮点格式转换成十进制数一:前言 前不久在分析一个程序的过程中遇到了浮点运算,也就顺便学习了一下浮点数的存放格式(IEEE754标准),此文仅作为总结,其中举了几个典型的例子,如果你想深入了解IEEE...
分类:其他好文   时间:2014-11-02 17:45:35    阅读次数:348
有关“解释”的解释
先吹个吧。cpu没有算盘好,算盘不但可以计算,同时也存储了最后结果,同样可以加减乘除,当然还可以小数(浮点)运算,它有可表示的数的极限(最大值和最小值),它也可以多进程(同样的计算方式,不同的数据内容),甚至多线程(同一数据内容,不同的计算方式)。它和程序一样,可逆性很差。----扯远了,权做玩笑看...
分类:其他好文   时间:2014-11-02 13:51:26    阅读次数:198
浮点数标准IEEE 754相关材料
下面的内容不是必须掌握的,是为了满足一些好奇心强同学的需要。IEEE754目前为C标准所支持,而且许多硬件均支持,可以说目前浮点数处理基本是IEEE754的天下。http://zh.wikipedia.org/wiki/IEEE_754中文材料1.4IEEE浮点运算标准-华东师范大学数学系这个比较简...
分类:其他好文   时间:2014-10-16 14:23:22    阅读次数:154
javascript精确计算
一篇文章:4 个用于执行高级数学计算的 JavaScript 库numbers.jsNumeric Javascriptaccounting.jsTangle有时只需要加减乘法能精确,没必要用到库。首先看下js浮点运算问题。JS里做小数的乘法运算时会出现浮点错误,具体可以测试一下: 结果是251.8...
分类:编程语言   时间:2014-10-10 19:52:24    阅读次数:225
FPGA中浮点运算实现方法——定标
有些FPGA中是不能直接对浮点数进行操作的,只能采用定点数进行数值运算。对于FPGA而言,参与数学运算的书就是16位的整型数,但如果数学运算中出现小数怎么办呢?要知道,FPGA对小数是无能为力的,一种解决办法就是采用定标。数的定标就是将要运算的浮点数扩大很多倍,然后取整,再用这个数进行运算,运算得到的结果再缩小相应的倍数就可以了。在设计中,一定不要忘记小数点。在FPGA 中是体现不出来小数点的,小...
分类:其他好文   时间:2014-10-04 14:11:56    阅读次数:146
AC_Dream 1224 Robbers(贪心)
题意:n个抢劫犯分别抢到的金钱是k1, k2, k3,...,一共得到的金钱是m, 但是在分钱的时候是按照x1/y, x2/y, x3/y,....的比例进行分配的!这样的话 一些抢劫犯就会觉得不公平,不公平度为|xi/y - ki/m|(浮点运算), 输出一个序列ki,使得 总的不公平...
分类:其他好文   时间:2014-10-04 02:45:15    阅读次数:302
python模块相关
数字类型的相关模块:decimal:十进制浮点运算类array:高效数值数组(字符,整形,浮点型)match:常规数学运算operator:数字操作符的函数实现random:多种伪随机数生成器字符串类型相关的模块:re:正则表达式struct:字符串和二进制之间转换StringIO:字符串缓冲对象,...
分类:编程语言   时间:2014-09-23 22:14:55    阅读次数:254
Double与BigDecimal 比较
1] 精确的浮点运算:在Java里面,有时候为了保证数值的准确性需要精确的数据,先提供一个例子就可以发现问题了:Java代码 publicclassFloatNumberTester{publicstaticvoidmain(Stringargs[]){System.out.println(0.05...
分类:其他好文   时间:2014-09-18 14:47:03    阅读次数:297
220条   上一页 1 ... 18 19 20 21 22 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!