码迷,mamicode.com
首页 > 其他好文 > 详细

近似值

时间:2020-02-28 01:10:31      阅读:58      评论:0      收藏:0      [点我收藏+]

标签:相对   规格   显示   nbsp   bsp   误差   

准确值 称为X,近似值x*

e(x*) = x - x*   //常将其简记为e*

将x的近似值x*的规格化为

  x*=0.a1a2...an *10 **m

  取e* = |x-x*| = 1/2 * 10 **(m-n))

    x*显示是>=a1 *10**(m-1)

  则相对误差 |er*| = |e*/x*| <= 1/2*10**(m-n)/(a1*10**(m-1) = 1/(2*a1)*10**(1-n)

近似值

标签:相对   规格   显示   nbsp   bsp   误差   

原文地址:https://www.cnblogs.com/beautiful7/p/12374716.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!