码迷,mamicode.com
首页 >  
搜索关键字:recurring decimal    ( 1394个结果
Maxim实时时钟芯片设计指南5413-二进制编码十进制(BCD)格式实时时钟中的状态机逻辑
网上DS12C887的文章涉及到时间的存储格式使用的都是二进制代码,究竟使用BCD码该如何操作?正好美心官网上有一篇文章。美心官网不稳定,先贴到这里,有时间再翻译。 原文链接 State Machine Logic in Binary-Coded Decimal (BCD)-Formatted Re ...
分类:其他好文   时间:2020-02-14 16:50:01    阅读次数:81
decimal常用操作和需要注意的地方
decimal模块 简介 decimal意思为十进制,这个模块提供了十进制浮点运算支持。 常用方法 1.可以传递给Decimal整型或者字符串参数,但不能是浮点数据,因为浮点数据本身就不准确。 2.要从浮点数据转换为Decimal类型 from decimal import * Decimal.fr ...
分类:其他好文   时间:2020-02-13 16:43:28    阅读次数:73
java.lang.ArithmeticException: Non-terminating decimal expansion; no exact representable decimal result
今天在调试一个JAVA程序的时候出现了如下异常错误信息: java.lang.ArithmeticException: Non-terminating decimal expansion; no exact representable decimal result。 发现报错的语句是: 1 fun. ...
分类:编程语言   时间:2020-02-12 20:14:18    阅读次数:63
习题2-5 分数化小数(decimal)
/*输入正整数a,b,c,输出a/b的小数形式,精确到小数点后c位。a,b<=10^6,c<=100。输入包含多组数据,结束标记为a=b=c=0。样例输入:1 6 40 0 0样例输出:case 1:0.1667*/ 1 #include<stdio.h> 2 int main() 3 { 4 in ...
分类:其他好文   时间:2020-02-11 17:34:40    阅读次数:58
PAT甲组 1010 Radix (二分)
1010 Radix (25分) Given a pair of positive integers, for example, $6$ and $110$, can this equation $6 = 110$ be true? The answer is , if 6 is a decimal ...
分类:其他好文   时间:2020-02-10 13:52:09    阅读次数:60
转:SQL四舍五入
ROUND 用到四舍五入并且保留小数点时我们肯定会首选ROUND函数, 如果字段的数据类型是decimal(18,10)时,那么四舍五入后还会有很多0出现。 CAST和CONVERT 其实我使用强转时并没有打算四舍五入结果,只是单纯为了得到符合我要求的数据,今天才发现这两个强转也会四舍五入结果,也就 ...
分类:数据库   时间:2020-02-10 11:43:26    阅读次数:62
02-从零开始用IDA做逆向-进制的基础知识、搜索功能的使用
02 从零开始用IDA做逆向 0x01、进制的概念 计算机中的进制概念是初学者必须知道的基础知识,学习逆向或者构造漏洞利用的时候会接触到这层面知识。二进制,十进制和十六进制的基本概念如下: BINARY(二进制数) :由两个数字0和1组成。 DECIMAL(十进制数) :数字由10位数字(从0到9) ...
分类:其他好文   时间:2020-02-09 09:19:45    阅读次数:91
MySQL中数据类型介绍
一、MySQL的数据类型 主要包括以下五大类: 整数类型:BIT、BOOL、TINY INT、SMALL INT、MEDIUM INT、 INT、 BIG INT 浮点数类型:FLOAT、DOUBLE、DECIMAL 字符串类型:CHAR、VARCHAR、TINY TEXT、TEXT、MEDIUM ...
分类:数据库   时间:2020-02-07 16:51:33    阅读次数:74
SQL Server 小数类型(float 和 decimal)小数相除求占比为1的方法
SQL Server 小数类型(float 和 decimal) 在SQL Server中,实际上小数数值只有两种数据类型:float 和 decimal,分别是近似数值和精确数值。其他小数类型,都可以使用float和decimal来替代,例如,双精度(double precision)数据类型等价 ...
分类:数据库   时间:2020-02-05 17:54:47    阅读次数:100
阿拉伯数字转汉字
1001000读作一百万一千 如果划线部分去掉则 1001000读作一百万○一千 public static string CmycurD(decimal num) { string strNum = "○一二三四五六七八九"; //0-9所对应的汉字 string strUnit = "万千百十亿 ...
分类:其他好文   时间:2020-02-05 16:35:24    阅读次数:75
1394条   上一页 1 ... 10 11 12 13 14 ... 140 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!