如果有特殊需求，需要更多的精度，可以用decimal模块，通过更改其里面getcontext()函数里面的prec参数，来决定你想要的浮点数精度。 ...
分类：
编程语言 时间：
2018-11-03 23:13:03
阅读次数：
251
BitConverter类：用于将源类型转换成字节数组，或者将字节数组转换成目标类型。在解决不同设备之间产生的大小端问题时，经常使用。 Convert类：用于基本数据类型（包括Boolean/Byte/SByte/char/DateTime/Decimal/Single/Double/Int16/I ...
一：建表规范 1.针对于任何字段如果为非负数，必须是 unsigned； 2.表达逻辑删除的字段名 is_deleted，1 表示删除，0 表示未删除； （1为是；0为否） 3.主键索引名为 pk_字段名；唯一索引名为 uk_字段名；普通索引名则为 idx_字段名； 4.小数类型为 decimal， ...
分类：
数据库 时间：
2018-10-28 16:01:37
阅读次数：
181
The task is simple: given any positive integer N, you are supposed to count the total number of 1's in the decimal form of the integers from 1 to N. F ...
分类：
其他好文 时间：
2018-10-27 21:19:10
阅读次数：
178
decimal(19,6)什么意思 数字长度19位，精确到小数点后6位例如0.123456 mysql中varchar（50）最多能存多少个汉字 首先要确定mysql版本4.0版本以下，varchar(50)，指的是50字节，如果存放UTF8汉字时，只能存16个（每个汉字3字节）5.0版本以上，va ...
分类：
其他好文 时间：
2018-10-27 19:53:34
阅读次数：
312
今天在运行一段程序的时候报了Out of range value错误，网上的解释是说这个值与数据库字段类型不匹配，然而程序里面设置的是BigDecimal，数据库设置的是decimal，没有多想就把sql语句copy出来在数据库执行，发现是OK的，就有点懵逼了，然后就各种Debug，没有发现任何问题 ...
分类：
数据库 时间：
2018-10-27 19:51:32
阅读次数：
527
SELECT TOP 50 (select text from sys.dm_exec_sql_text(sql_handle)) as [SQL], CAST( ((qs.total_elapsed_time / 1000000.0)/qs.execution_count) AS DECIMAL( ...
分类：
数据库 时间：
2018-10-23 23:07:49
阅读次数：
159
数字电路逻辑设计摘要 BCD码 + Binary Coded Decimal, 使用二进制码(4位)的形式来表示(一位)十进制 + 有权BCD码: 8421, 2421等 + 无权BCD码: 余3码等 一个逻辑表达式的功能表达方式 + 通过真值表显示 通过真值表我们已经知道了该表达式的逻辑功能, 现 ...
分类：
其他好文 时间：
2018-10-20 18:34:32
阅读次数：
133
Given two integers representing the numerator and denominator of a fraction, return the fraction in string format. If the fractional part is repeating ...
分类：
其他好文 时间：
2018-10-17 16:57:23
阅读次数：
149
一、MySql数据库中如何定义关于金额字段： 建议定义成【DECIMAL】类型，而不是float或者是double，因为这个两者是以二进制储存的，存在一定的误差。具体事例可参考https://blog.csdn.net/xzp_12345/article/details/79460410。 此外还要 ...
分类：
编程语言 时间：
2018-10-16 16:12:16
阅读次数：
209
