码迷,mamicode.com
首页 >  
搜索关键字:int转化为float 精度    ( 6030个结果
基本语言(三)
如果同时定义了两个函数,一个带const,一个不带,会有问题吗? 不会,这相当于函数的重载。 请你来说一说隐式类型转换 首先,对于内置类型,低精度的变量给高精度变量赋值会发生隐式类型转换,其次,对于只存在单个参数的构造函数的对象构造来说,函数调用可以直接使用该参数传入,编译器会自动调用其构造函数生成 ...
分类:编程语言   时间:2020-06-19 16:02:42    阅读次数:82
sklearn工具-分类器评估指标
分类器性能评估指标 一、精度-召回率-F度量 Precision-Recall-F_measure 准确率和混淆矩阵 二、损失函数 Loss Function 三、接收机操作曲线 ROC Curve 回归器效能评估方法 ...
分类:其他好文   时间:2020-06-19 00:56:38    阅读次数:69
达芬奇调色-数字影像美颜
不会调色的后端不是好的后端...这句话是我编的。 课程目录 01 数字美颜的前世今生 02 肤色!好的开始是成功的一半 03 磨皮入门!达芬奇美颜磨皮实战 04 精准打击!不同类型皮肤瑕疵的针对性解决方案 05 频率分离!超高精度磨皮技巧 06 智能高效的达芬奇内置ResolveFX插件 07 丰富 ...
分类:其他好文   时间:2020-06-17 12:59:13    阅读次数:166
频率计工作原理介绍
数字频率计是计算机、通讯设备、音频视频等科研生产领域不可缺少的测量仪器。并且与许多电参量的测量方案、测量结果都有十分密切的关系,因此,频率的测量就显得更为重要,本文主要介绍频率计的工作原理。 频率信号
分类:其他好文   时间:2020-06-17 10:52:51    阅读次数:561
array.array和memoryview
# 如果我们需要一个只包含数字的列表,那么array.array比list更高效,因为数组在背后存的并不是int对象,而是数字的机器翻译,也就是字节表示. # 数组支持所有跟可变序列相关的操作,包括.pop .insert和.extend.另外,数组还提供从文件读取和存入文件的更快的方法,如.fro ...
分类:其他好文   时间:2020-06-17 10:38:12    阅读次数:37
小日记,今天的收获
今天老师给我们重新补习了一下二进制的基础内容,还有debug和二维数组,内容相对简单,就简单地回顾一下. 二进制十进制八进制十六进制就是一些基础进制知道,主要说下精度损失的问题,即强转之后精度损失的原理就是把补码转成反码再取反,得到的二进制数进行十进制运算就得到打印的十进制数字了. 二进制转八进制十 ...
分类:其他好文   时间:2020-06-17 01:07:16    阅读次数:67
高精度频率计的使用方法
随着科学技术的发展,用户对频率计也提出了新的要求。除通常的频率计所具有的功能外,还要有数据处理功能,统计分析功能,时域分析功能等等,或者包含电压测量等其他功能。这些要求有的已经实现或者部分实现,但要真正完美的实现这些目标,对于生产厂家来说,还有许多工作要做,而不是表面看来似乎发展到头了。测量仪器的准确度的选择仪器的频率测量准确度取决于时基。大多数仪器使用的10MHz参考振荡器具有10-7或10-8
分类:其他好文   时间:2020-06-16 20:09:42    阅读次数:100
postgresql和postgis
1,空间函数转经纬度 '{"type":"FeatureCollection","features":[{"type":"Feature","properties":{},"geometry":'||ST_AsGeoJSON(coverage)||'}]}' coverage, '{ "geomet ...
分类:数据库   时间:2020-06-16 18:34:03    阅读次数:88
嵌入式中位宽的计算
在嵌入式设计中,是经常需要和最底层打交道。无论是利用MCU实现功能还是利用电路直接实现功能,都需要对数字极其敏感。 在嵌入式中,所有的数值都是按照二进制码进行存储的。二进制与十进制的计算规则为: 二进制的101.01,等于十进制的5.25。 在不考虑小数时,我们在设计中,用的到所有的变量都要基于一个 ...
分类:其他好文   时间:2020-06-16 16:53:31    阅读次数:77
使用SqlBulkCopy进行批量插入数据操作遇到的问题
1、默认SqlBulkCopy如果不做配置,保存时会默认按列顺序进行保存2、注意列格式,如果对应列格式不一致,保存时会出问题,例如原列为double 数据库里为decimal(18.2) 保存时,会因精度问题,保存到数据库会少或多0.01,这个问题比较恶心,一定要注意。3、还是上个问题,如果Data... ...
分类:数据库   时间:2020-06-16 14:40:44    阅读次数:67
6030条   上一页 1 ... 20 21 22 23 24 ... 603 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!