码迷,mamicode.com
首页 >  
搜索关键字:浮点运算    ( 220个结果
03 元字符及运算符
元字符 元字符指的是能够被shell解释的特殊字符,每个特殊字符都有其特殊含义,这些字符一方面可用于变量值的运算、我们可以称之为运算符,另外一方面可以和shell命令配合使用来达到更高级的效果 算数运算符 运算符 - / % 算数运算符需要配合下述操作使用 # 浮点运算 bc # 整数运算 expr ...
分类:其他好文   时间:2021-06-16 18:34:56    阅读次数:0
浮点运算:双精度、单精度、半精度浮点数计算(FP16/FP32/FP64),浮点和定点
1.实数数的表示 参考深入理解C语言-03-有符号数,定点数,浮点数 1.1定点数 一般在没有FPU寄存器的嵌入式系统中使用比较多。比如常见的32位系统中,将高16位作为整数部分,低16位作为小数部分。这样就可以用整数来模拟定点数的 + - * / 运算。关于定点数的数学分析,请参考以下文档:htt ...
分类:其他好文   时间:2021-03-31 12:07:57    阅读次数:0
YUV420 转 RGB 测试
逐像素浮点运算转换的,很慢,目测 1080p 只有 12fps 左右 sws_scale(img_convert_context, (const unsigned char *const *)p_frame->data, p_frame->linesize, 0, p_codec_context-> ...
分类:其他好文   时间:2021-02-26 12:53:55    阅读次数:0
一日一技:在Python里面做分数的运算
一日一技:在Python里面做分数的运算我们在之前的文章里面讲到过,如果不使用Decimal模块,那么直接做浮点运算获得的小数,可能是不准确的。例如0.1+0.2它的结果不是0.3而是0.30000000000000004。这不是Python的问题,而是浮点数在计算机中不能总是精确储存导致的问题。如果你现在需要做一个除法运算,但是你又忘记了Decimal模块的正确使用,那怎么办呢?这个时候,你想,
分类:编程语言   时间:2020-12-08 12:55:07    阅读次数:9
用NVIDIA NsightcComputeRoofline分析加速高性能HPC的应用
用NVIDIA NsightcComputeRoofline分析加速高性能HPC的应用 编写高性能的软件不是一件简单的任务。当有了可以编译和运行的代码之后,当您尝试并理解它在可用硬件上的执行情况时,将引入一个新的挑战。不同的平台,无论是cpu、gpu还是其他平台,都会有不同的硬件限制,比如可用内存带 ...
分类:其他好文   时间:2020-11-25 12:10:47    阅读次数:4
OpenCV有多酷?
作者|Sachin Khode 编译|Flin 来源|medium 在过去的几年里,深度学习已经成为人工智能领域发展最快的领域之一。它已经取得了显著的成果,特别是在计算机视觉领域。 例如,自动驾驶汽车,使计算机用接近人类的能力来识别物体。OpenCV的评价非常高,因为它包含了最先进的计算机视觉和机器 ...
分类:其他好文   时间:2020-09-17 16:15:21    阅读次数:26
go(3)变量的应用与数据类型
一.静态语言和动态语言 * 静态类型语言和强类型语言是同一个意思,表示在编译期就确定了类型,而且类型是不可以改变的 * 动态类型语言和弱类型语言是同一个意思,表示在运行过程中才能确定,且内容是什么类型变量类型跟随变化 # 二.Go语言变量简介 * Go语言和其他语言一样都有基本存储容器.可以存储一个 ...
分类:其他好文   时间:2020-08-17 17:46:00    阅读次数:74
一个由跨平台产生的浮点数bug | 有你意想不到的结果
本文为6年前的旧文整理重发,因为最开始是workdpress的程序,后改为静态blog过程中,导致格式等混乱,这篇年久失修旧文可文末点击原文访问。问题背景背景就简单点儿说,当初一个项目C#编写,涉及浮点运算,来龙去脉省去,直接看如下代码。(为什么有这个问题产生,是因为当初线上产生了很诡异的问题,和本地调试效果不一致。)floatp3x=80838.0f;floatp2y=-2499.0f;doub
分类:其他好文   时间:2020-08-04 10:05:24    阅读次数:69
一个由跨平台产生的浮点数bug | 有你意想不到的结果
本文为6年前的旧文整理重发,因为最开始是workdpress的程序,后改为静态blog过程中,导致格式等混乱,这篇年久失修旧文可文末点击原文访问。问题背景背景就简单点儿说,当初一个项目C#编写,涉及浮点运算,来龙去脉省去,直接看如下代码。(为什么有这个问题产生,是因为当初线上产生了很诡异的问题,和本地调试效果不一致。)floatp3x=80838.0f;floatp2y=-2499.0f;doub
分类:其他好文   时间:2020-08-04 10:05:06    阅读次数:94
C#中的除法运算
"/"号做什么运算与除数和被除数的类型有关 1. 整形运算是取整(不进行四舍五入只取整数部分) 1 int a = 4; 2 int b = 5; 3 float c = a / b; 4 Console.WriteLine(c); 5 Console.ReadKey(); 结果为c=0(因为会先进 ...
分类:Windows程序   时间:2020-06-15 23:07:03    阅读次数:99
220条   1 2 3 4 ... 22 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!