码迷,mamicode.com
首页 >  
搜索关键字:浮点运算    ( 220个结果
从RGB色转为灰度色算法
一、基础 对于彩色转灰度,有一个很著名的心理学公式:Gray = R*0.299 + G*0.587 + B*0.114二、整数算法 而实际应用时,希望避免低速的浮点运算,所以需要整数算法。 注意到系数都是3位精度的没有,我们可以将它们缩放1000倍来实现整数运算算法:Gray = (R*29...
分类:编程语言   时间:2015-01-29 23:52:30    阅读次数:279
【转】从RGB色转为灰度色算法
----本文摘自作者ZYL910的博客一、基础 对于彩色转灰度,有一个很著名的心理学公式:Gray = R*0.299 + G*0.587 + B*0.114二、整数算法 而实际应用时,希望避免低速的浮点运算,所以需要整数算法。 注意到系数都是3位精度的没有,我们可以将它们缩放1000倍来实现...
分类:编程语言   时间:2015-01-29 22:32:36    阅读次数:262
shell浮点运算工具bc
shell浮点运算工具bcbc支持浮点数,是一个用于数学运算的高级工具。[root@localhost桌面]# bcbc 1.06Copyright 1991-1994, 1997, 1998, 2000 Free Software Foundation, Inc.This is free soft...
分类:系统相关   时间:2015-01-16 14:40:28    阅读次数:175
FPGA中浮点运算实现方法——定标
有些FPGA中是不能直接对浮点数进行操作的,仅仅能採用定点数进行数值运算。对于FPGA而言,參与数学运算的书就是16位的整型数,但假设数学运算中出现小数怎么办呢?要知道,FPGA对小数是无能为力的,一种解决的方法就是採用定标。数的定标就是将要运算的浮点数扩大非常多倍,然后取整,再用这个数进行运算,运...
分类:其他好文   时间:2015-01-07 20:27:38    阅读次数:133
函数调用问题、浮点、运算优先级和短路【这个是关键】、按位运算的用处
1.对函数的调用中返回值的意义function f1(){echo 1234;//return 123;//这里对返回值进行处理}var_dump(f1());//这里对整个返回值有一个认识【function的调用而没有返回值并不会影响执行,只对调用结果有影响】2.浮点数的表示【双精度:需要使用八个...
分类:其他好文   时间:2015-01-03 23:54:09    阅读次数:232
python之模块:decimal
#-*-coding:utf-8-*-__author__='Administrator'#数学计算importdecimal#用于定点和浮点运算#文档:https://docs.python.org/2.7/library/decimal.html?highlight=decimal#module...
分类:编程语言   时间:2014-12-30 18:59:53    阅读次数:1064
java精确计算之BigDecimal
Java中的计算主要有double,float,int,long,BigDecimal1、float和double主要用户科学计算和工程计算,它们执行二进制浮点运算,这是为了在广泛的数值范围上提供较为精确的快速近似计算而设计的。然而它们并没有提供完全精确的结果,所以不应该被用于需要精确计算的场合。eg:doub..
分类:编程语言   时间:2014-12-26 06:18:22    阅读次数:200
图像放大快速算法
图像放大快速算法实现的原理主要有以下两点:1、横向缩放与纵向缩放分开,而先后顺序取决于缩放前后的图像比例: 若SrcHeight/DstWidth>SrcWidth/DstWidth,则先纵向缩放,否则横向缩放。2、利用整数运算代替浮点运算,由于是分步缩放,以横向缩放为例,利用二次线性插值公式,再变...
分类:编程语言   时间:2014-12-06 06:32:21    阅读次数:265
图像放大快速算法
图像放大快速算法实现的原理主要有以下两点: 1、横向缩放与纵向缩放分开,而先后顺序取决于缩放前后的图像比例:    若SrcHeight/DstWidth>SrcWidth/DstWidth,则先纵向缩放,否则横向缩放。 2、利用整数运算代替浮点运算,由于是分步缩放,以横向缩放为例,利用二次线性插值公式,再变形一下如下: f(i,j+v) = (1-v)f(i,j) +vf(i,j+1);...
分类:编程语言   时间:2014-12-05 19:21:59    阅读次数:369
台湾清华获SC14最高计算性能冠军
美国时间11月18日,在刚刚结束的SC14全球大学生超级计算机竞赛中,台湾清华大学揽下最高计算性能冠军,成为该大赛历史上首只突破10万亿次浮点运 算性能的参赛队。在大会现场,SC大会执行总监Martin Meuer亲自公布了“最高计算性能奖”的比赛成绩,宣布台湾清华大学在大赛规定的3000W功耗限制...
分类:其他好文   时间:2014-11-21 12:24:23    阅读次数:171
220条   上一页 1 ... 17 18 19 20 21 22 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!