码迷,mamicode.com
首页 >  
搜索关键字:int转化为float 精度    ( 6030个结果
Math类,System.Math
public static double Round( double value,//要舍入的双精度浮点数。 int digits//返回值中的小数数字。)将双精度浮点值按指定的小数位数舍入。说明:由于用十进制数表示浮点数或对浮点数进行算术运算可能导致的误差,在某些情况下,Round(Double,...
分类:其他好文   时间:2014-06-29 14:30:54    阅读次数:222
[算法][求积分][复合辛普森公式]
1 //这里f()为被积函数,输入a,b为积分上下限, 2 //eps为计算精度[这里要注意假收敛,一般设小一点好] 3 #include 4 #include 5 #define eps 1e-6 6 using namespace std; 7 double f(double x){ 8...
分类:其他好文   时间:2014-06-07 05:22:57    阅读次数:239
实现自己的软件定时器
为什么要实现软件定时器: 在芯片上,地址空间也是相当宝贵的,如果保留了更多的硬件定时器的话,就需要更多的地址空间,那么我们能不能作个折中方案呢?答案是肯定的,我们可以使用一个硬件定时器,来模拟实现一个软件定时器,可以满足更多的定时需求,需要注意的一点就是软件定时器精度可能会有稍微误差,因为会涉及到任务调度、锁中断等,在对定时精度要求不高的场景,可以考虑使用软件定时器。Linux内核中的timer...
分类:其他好文   时间:2014-06-05 11:38:35    阅读次数:242
HDU1006、3037、2084、1176题解
最近就只有早起做题,做完就上课,周六日可以做些恶心点点的,平时要上课就只有做做DP,数学题什么的了。 HDU1006,十分恶心的一题,实际上我还不是很懂,看着kuangbin大神的代码基本对着拍,没有什么改进。 题目的意思就是时钟里有三条针,时分秒针,两两超过D度就开心,问一天有百分只几是开心的。 思路就是:模拟,区间交,关键,精度问题,这个针算是连续的~不是60秒动一下分针! /**...
分类:其他好文   时间:2014-06-05 03:55:28    阅读次数:195
视频码率,帧率和分辨率的联系与差别
视频码率,帧率和分辨率究竟哪一个影响电影的清晰度码率:影响体积,与体积成正比:码率越大,体积越大;码率越小,体积越小。 码率就是传输数据时单位时间传送的数据位数,一般我们用的单位是kbps即千位每秒。也就是取样率(并不等同与採样率,採样率的单位是Hz,表示每秒採样的次数),单位时间内取样率越大,精度...
分类:其他好文   时间:2014-06-04 18:16:12    阅读次数:602
C语言基础随想
经过一周的学习,对于计算机中级语言————C语言有了简单的学习。 C语言是一种面向过程的语言,相比Java它是一种面向对象的语言,但是Java并不是纯面向对象的语言。 从基础的数据类型开始,C语言有整型int、短整型short、长整形long,字符型char、浮点型(单精度型、双精度型)float....
分类:编程语言   时间:2014-06-04 16:31:33    阅读次数:279
循环-10. 求序列前N项和(15)
本题要求编写程序,计算序列 2/1+3/2+5/3+8/5+... 的前N项之和。注意该序列从第2项起,每一项的分子是前一项分子与分母的和,分母是前一项的分子。 输入格式: 输入在一行中给出一个正整数N。 输出格式: 在一行中输出部分和的值,精确到小数点后2位。题目保证计算结果不超过双精度范围。 输入样例: 20 输出样例: 32.66 #include...
分类:其他好文   时间:2014-06-02 15:05:16    阅读次数:214
VBA函数
时间函数-------------变量类型类型说明如下:%——整型&——长整型!——单精度浮点数#——双精度浮点数@——货币型$——字符串型在Excel中录入数据时如何自动插入当前时间呢?比如说,用Excel制作了一份考勤表,员工上班时,门卫在相应的单元格中输入数值1,而想让Excel自动获取当前时...
分类:其他好文   时间:2014-06-02 12:45:58    阅读次数:356
精确计算java中float和double的精度
给定一个double d = XXX,和d最接近的另外两个double值是多少?我用Java写了一个解析原始数据类型float和double的类,给定一个float或者double数值P,它可以计算出与P的绝对值最近的、可以被float/double表示的浮点数。...
分类:编程语言   时间:2014-06-02 04:53:31    阅读次数:316
使用浮点类型导致计算误差以及判断误差
1.计算误差浮点的精度是可变的,除非分数是2的整数幂次方,否者无法用有限的二进制小数表示。即 0.1 分母为10, 则分数应该是2的3次方至2的4次方之间,具体是多少我也算不出来了···。即这个次方数会为一个特别长的小数,在有限的长度中无法体现出来。则0.1会被表示为一个十分接近0.1的值,如0.1...
分类:其他好文   时间:2014-05-30 20:13:26    阅读次数:216
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!