码迷,mamicode.com
首页 >  
搜索关键字:浮点运算    ( 220个结果
ARM指令协处理器处理指令
ARM支持16个协处理器,在程序执行过程中,每个协处理器忽略属于ARM处理器和其他协处理器指令,当一个协处理器硬件不能执行属于她的协处理器指令时,就会产生一个未定义的异常中断,在异常中断处理程序中,可以通过软件模拟该硬件的操作,比如,如果系统不包含向量浮点运算器,则可以选择浮点运算软件模拟包来支持向...
分类:其他好文   时间:2014-07-22 00:18:34    阅读次数:225
IEEE 754 浮点数在计算机中的表示方法
IEEE二进制浮点数算术标准(IEEE 754)是20世纪80年代以来最广泛使用的浮点数运算标准,为许多CPU与浮点运算器所采用。这个标准定义了表示浮点数的格式(包括负零-0)与反常值(denormal number)),一些特殊数值(无穷(Inf)与非数值(NaN)),以及这些数值的“浮点数运算符...
分类:其他好文   时间:2014-07-16 18:45:57    阅读次数:264
Linux命令之bc - 浮点计算器、进制转换
用途说明Bash内置了对整数四则运算的支持,但是并不支持浮点运算,而bc命令可以很方便的进行浮点运算,当然整数运算也不再话下。手册页上说bc是An arbitrary precision calculator language,即一个任意精度的计算语言,注意是一种语言,它提供了一些语法结构,比如条件...
分类:系统相关   时间:2014-06-15 22:12:35    阅读次数:391
对非正确使用浮点型数据而导致项目BUG的问题探讨
乘法分配律 在上小学的时候就已经学习过乘法分配律,乘法分配律的具体内容是:两个数的和与一个数相乘,可以先把他们分别与这个数相乘,再相加,得数不变。乘法分配律的定义还可以用表达式“(a+b)×c = a×c+b×c”的形式给出。乘法分配律的反用“a×c+b×c = (a+b)×c”同样成立。例如“10.2×(3+7) = 10.2×3+10.2×7 = 102”(反用形式为“10.2×3+10.2...
分类:其他好文   时间:2014-06-01 03:17:16    阅读次数:260
《深入Java虚拟机学习笔记》- 第14章 浮点运算
《深入Java虚拟机学习笔记》- 第13章 浮点运算
分类:编程语言   时间:2014-05-15 01:43:38    阅读次数:206
《深入Java虚拟机学习笔记》- 第13章 逻辑运算
《深入Java虚拟机学习笔记》- 第13章 浮点运算
分类:编程语言   时间:2014-05-14 23:33:52    阅读次数:276
armeabi与armeabi-v7a
1、armeabi armeabi是指的该so库用于Arm的通用CPU。2、armeabi-v7a v7a的CPU支持硬件浮点运算。3、共同点 armeabi和armeabi-v7a是表示cpu的类型。4、不同点 因此armeabi通用性强,但速度慢,而v7a能充分发挥v7a CPU的能力。arme...
分类:其他好文   时间:2014-05-09 11:56:52    阅读次数:580
【转】【SEE】基于SSE指令集的程序设计简介
SSE技术简介Intel公司的单指令多数据流式扩展(SSE,Streaming SIMD Extensions)技术能够有效增强CPU浮点运算的能力。Visual Studio .NET 2003提供了对SSE指令集的编程支持,从而允许用户在C++代码中不用编写汇编代码就可直接使用SSE指令的功能。...
分类:其他好文   时间:2014-05-08 17:33:10    阅读次数:483
浮点转定点算法-加法运算
嵌入式开发中经常会遇到浮点型的运算,但是如果没有dsp,其处理浮点运算的效率是很低的,所以通常把浮点数转换成定点,再做运算。...
分类:其他好文   时间:2014-04-29 13:24:20    阅读次数:556
浮点运算误差
今天在gpu实现数组求和的功能,发现竟然跟...
分类:其他好文   时间:2014-04-27 22:32:14    阅读次数:343
220条   上一页 1 ... 20 21 22
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!