大多数语言在处理浮点数的时候都会遇到精度问题，但是在JS里似乎特别严重，来看一个例子alert(45.6*13);结果居然是592.800000000001，当然加法之类的也会有这个问题那这是js的错误吗？当然不是，你的电脑做着正确的二进制浮点运算，但问题是你输入的是十进制的数，电脑以二进制运算，这...
分类：
编程语言 时间：
2014-08-13 21:49:27
阅读次数：
192
1.gettype()：获取变量类型 2.is_array()：判断变量类型是否为数组类型 3.is_double()：判断变量类型是否为倍浮点类型 4.is_float()：判断变量类型是否为浮点类型 5.is_int()：判断变量类型是否为整数类型 6.is_i...
分类：
Web程序 时间：
2014-08-13 19:35:47
阅读次数：
234
原文:JavaScript超大整数加法
什么是「超大整数」？
JavaScript 采用 IEEE754标准 中的浮点数算法来表示数字 Number。
我也没花时间去详细了解IEEE754标准，但对于处理超大整数，了解下面的几个知识点就足够了。
首先，JavaScript 实际上可以表示的最大数是:...
分类：
编程语言 时间：
2014-08-13 12:35:26
阅读次数：
244
在日常编程中--包括对话框、关系数据库、金融程序、SMS程序及一切处理数据文件的程序，需要控制小数点后的小数位的情况非常普遍，本文中将要讲 解如何用简单的方法来控制小数位，另外，还要揭开字符串及数据精度的一点点小秘密。问题的引出如有一个函数，其可接受一个long double参数，并将参数转换为字符...
分类：
编程语言 时间：
2014-08-13 12:28:36
阅读次数：
285
本文总结nan和inf在C语言当中的含义、产生和判定方法。C语言当中的nan表示not a number，等同于 #IND:indeterminate (windows)产生：对浮点数进行了未定义的操作；对负数开方，对负数求对数，0.0/0.0，0.0*inf、inf/inf、inf-inf这些操作...
分类：
编程语言 时间：
2014-08-13 00:51:35
阅读次数：
3795
解题报告
题目传送门
题意：
求矩形面积并
思路：
扫描线+线段树。要离散化，坐标是浮点型的。
对于线段树（区间）与点坐标对应起来可以这样
区间[1,4]对应的线段树。
#include
#include
#include
#include
using namespace std;
struct Seg
{
int v;
double lx,rx,...
分类：
其他好文 时间：
2014-08-12 13:35:04
阅读次数：
250
MATLAB函数表4.1.1特殊变量与常数ans计算结果的变量名computer确定运行的计算机eps浮点相对精度Inf无穷大I虚数单位inputname输入参数名NaN非数nargin输入参数个数nargout输出参数的数目pi圆周率nargoutchk有效的输出参数数目realmax最大正浮点数...
分类：
Web程序 时间：
2014-08-12 00:31:43
阅读次数：
953
实数的表示1) 十进制数形式由数码0~ 9和小数点组成。 例如：0.0、25.0、5.789、0.13、5.0、300.、-267.8230 等均为合法的实数。注意，必须有小数点。2) 指数形式由十进制数，加阶码标志“e”或“E”以及阶码（只能为整数，可以带符号）组成。其一般形式为：a E n（a为...
分类：
编程语言 时间：
2014-08-12 00:13:33
阅读次数：
305
C语言提供了几个标准库函数，能够将随意类型(整型、长整型、浮点型等)的数字转换为字符串。下面是用itoa()函数将整数转 换为字符串的一个样例： # include # include void main (void) { int num = 100; char str[25]; itoa(nu.....
分类：
编程语言 时间：
2014-08-12 00:12:23
阅读次数：
259
#includeusing namespace std;int main(){ float sum=0;//注意声明成浮点型 float n=100.0; for(int i=1;i<=10;i++) { sum+=n; n=n*0.5; }...
分类：
其他好文 时间：
2014-08-11 20:26:52
阅读次数：
294
