1.自动类型提升：以大的为主，小的向大的方向提升，提升为同一类型的数据后在进行运算 byte b = 3; //b = b + 4;//结果会报错 //System.out.println(b);//结果是报错，可能损失精度4是一个int型变量，b+4这个表达式，b会自动类型提升为int与4相加，但...
分类：
其他好文 时间：
2014-07-09 21:07:46
阅读次数：
225
赋值运算：+= -= *= /=int g=3;g+=4;//相当于g=g+4System.out.println(g);//结果g是7注意：short s=3;//s=s+4; 编译失败,可能损失精度，因为他做两次运算加法运算和赋值运算，4是int类型的不能用short来装s+=4;//编译成功....
分类：
其他好文 时间：
2014-07-09 00:44:43
阅读次数：
295
问题的核心其实还是变量b的这个符号位。计算机里从低精度数向高精度数转换时，比如这里从char到short, 肯定会在前面扩展一些bit位，从而达到高精度数的长度。那么扩展时，是补0还是补1呢？这里有个原则就是，有符号数扩展符号位，也就是1,无符号数扩展0。...
分类：
其他好文 时间：
2014-07-08 18:56:09
阅读次数：
230
体验一下，高精度的算法/* * ===================================================================================== * * Filename: a1087.c * * Description:...
分类：
其他好文 时间：
2014-07-06 22:11:39
阅读次数：
222
smallint 是一种精确的数值数据类型，其精度在算术运算后不变，采用2个字节编码有符号的 smallint 值的范围是 -2^15-------2^15 -1，即 -32768 ----32767无符号的 smallint 值的范围是 0-------2^16 -1，即 0----65535，i...
分类：
数据库 时间：
2014-07-06 19:08:00
阅读次数：
169
链接需要特判一下n=1的时候精度调太低会超时 1 #include 2 #include 3 #include 4 #include 5 #include 6 #include 7 #include 8 #include 9 #include10 using namespace std;11 #d....
分类：
其他好文 时间：
2014-07-06 17:30:13
阅读次数：
247
1. 范围float和double的范围是由指数的位数来决定的。float的指数位有8位，而double的指数位有11位，分布如下：float：1bit（符号位） 8bits（指数位） 23bits（尾数位）double：1bit（符号位） 11bits（指数位） 52bits（尾数位）于是，flo...
分类：
其他好文 时间：
2014-07-06 13:54:29
阅读次数：
138
题目链接：http://acm.hdu.edu.cn/showproblem.php?pid=3644
题意：给定n个点的一个多边形，一个圆的半径，判断圆是否可以放在多边形里，
由于圆形坐标没确定，所以采用模拟退火法来算，不断地减小步长，选取n个点，点在多边形内采用穿线法判断，
精度很坑爹，调了一下午精度，在wa与tle之间徘徊20+次，吐血AC。
代码：
/* **********...
分类：
其他好文 时间：
2014-07-06 00:08:06
阅读次数：
354
（1）容量与误差：实际电容量和标称电容量允许的最大偏差范围。一般使用的容量误差有：J级±5%，K级±10%，M级±20%。精密电容器的允许误差较小，而电解电容器的误差较大，它们采用不同的误差等级。常用的电容器其精度等级和电阻器的表示方法相同。用字母表示：D级—±0.5%；F级—±1%；G级—±2%；...
分类：
其他好文 时间：
2014-07-05 17:57:38
阅读次数：
180
这段时间一直在维护VB6编写的《全站仪距离精度测试》软件，由于新需求中新增两个基线，并且每条基线的棱镜间距并不一样，因此我使用了一个boolean型的全局变量，并且设计在某按钮点击事件中给全局变量赋值，在这里我并没有考虑到全局变量初始化的问题，当然该变量是否初始化对程序本身完全没有影响。 然而，正....
分类：
其他好文 时间：
2014-07-05 17:06:32
阅读次数：
201
