码迷,mamicode.com
首页 >  
搜索关键字:精度    ( 6030个结果
【javascript】浮点数运算问题分析及解决方法
在 js 中只有一种数字类型 Number,而且在 js 中所有的数字都是以 IEEE-754 标准格式表示的。浮点数的精度问题并不是 js 特有的,因为有些小数以二进制表示位数是无穷的,比如 1.1,其程序实际上无法真正的表示 1.1,而只能做到一定程度上的准确(1.099999999999999...
分类:编程语言   时间:2014-05-28 11:08:56    阅读次数:307
铁大课表 用户手册
铁大课表用户手册第七小组:闫立新、曹锦锋、李夏蕾、苏海岩、王伟光、杨世超2014年5月14日目录1引言... 31.1编写目的... 31.2背景... 31.3定义... 31.4参考资料... 32用途... 42.1功能... 42.2性能... 42.2.1精度... 42.2.2时间特性....
分类:其他好文   时间:2014-05-26 19:42:49    阅读次数:355
[BASIC-29] 高精度加法
基础练习 高精度加法   时间限制:1.0s   内存限制:512.0MB 问题描述   输入两个整数a和b,输出这两个整数的和。a和b都不超过100位。 算法描述   由于a和b都比较大,所以不能直接使用语言中的标准数据类型来存储。对于这种问题,一般使用数组来处理。   定义一个数组A,A[0]用于存储a的个位,A[1]用于存储a的十位,依此类推。同样...
分类:其他好文   时间:2014-05-26 06:14:46    阅读次数:201
[BASIC-30] 阶乘计算
基础练习 阶乘计算   时间限制:1.0s   内存限制:512.0MB 问题描述   输入一个正整数n,输出n!的值。   其中n!=1*2*3*…*n。 算法描述   n!可能很大,而计算机能表示的整数范围有限,需要使用高精度计算的方法。使用一个数组A来表示一个大整数a,A[0]表示a的个位,A[1]表示a的十位,依次类推。   将a乘以一个整数k...
分类:其他好文   时间:2014-05-26 05:27:07    阅读次数:271
uva 10497 - Sweet Child Makes Trouble(dp+高精度)
题目链接:uva 10497 - Sweet Child Makes Trouble 题目大意:有个小屁孩很淘气,总是趁父母不在家的时候去拿家具玩,每次拿n个家具玩,但是放回去的时候一定不会将某个物品放回原处,一定要打乱。问说有多少放的方式满足。 解题思路:dp[i]表示说i个数打乱的情况,dp[i]=(dp[i?1]+dp[i?2])?(i?1)每次新增一个数,放在序列的最后一个位置...
分类:其他好文   时间:2014-05-26 04:53:50    阅读次数:255
YK-JJW(JSW)系列精密净化交流稳压电源
YK-JJW(JSW)系列产品概述 YK-JJW系列单相精密交净化交流稳压电源,采用了国际上先进的正弦能量分配程式的电源调节技术,代表了交流稳压技术的最新发展水平。其电路由正弦能量分配和大功率滤波器组成。具有稳压精度高过载能力强、可靠性好、抗干扰能力强、效率高,可长期连续工作,使用寿命长等优点,是取代614系列电子式稳压器和磁饱和稳压器的理想代换产品。能提供一个安静无声、安全可靠的良好工作环...
分类:Web程序   时间:2014-05-26 04:35:36    阅读次数:247
[转]使用Stopwatch类实现高精度计时
对一段代码计时同查通常有三种方法。最简单就是用DateTime.Now来进行比较了,不过其精度只有3.3毫秒,可以通过DllImport导入QueryPerformanceFrequency和QueryPerformanceCounter,实现高精度的计时,请参考《.net平台下获取高精度时间类》。...
分类:其他好文   时间:2014-05-25 18:42:33    阅读次数:494
.net平台下获取高精度时间类
原文:http://www.it118.org/specials/321869dd-98cb-431b-b6d2-82d973cd739d/d940a15c-0d36-4369-8de0-b07cf3f3fd5f.htm前言:.NET 2.0前运行库中不存在高精度的计时器,而您又需要它,解决的方法是...
分类:Web程序   时间:2014-05-25 18:41:57    阅读次数:352
什么样的数据算是byte类型,int类型,float类型,double类型,long类型
byte类型,就是字符类型.这类数据是字符组成的 INT 类型,为整型数字,不同语言定义的范围不同 FLOAT,为数字浮点型,其小数点后面可以跟N个数字 DOUBLE,为双精度数字类型,其小数点后只能有两个数字 LONG,为长整型其范围要比INT类型范围广...
分类:其他好文   时间:2014-05-25 18:14:01    阅读次数:188
高?精?密?电?阻?阻?值?速?查?表
0603封装,1%精度的贴片电阻。其命名方式为:两位数字代码加字母代码的表示方法(两者都是代码,都不是具体阻值数)前两位是阻值代码,如代码01对应阻值是“100欧姆”。后一位字母表示数字零的个数。和在一起就是该电阻的阻值。例如:01代表有效数字是100;C表示×10的二次方,01C=100×100=...
分类:其他好文   时间:2014-05-24 12:39:46    阅读次数:413
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!