首页 理论教育 近似数的凑整误差-凑整规则与测量基础

近似数的凑整误差-凑整规则与测量基础

时间:2023-10-10 理论教育 版权反馈
【摘要】:因为有凑整,使数字进位或舍去而引起的误差,就称为凑整误差。;若要求保留5位小数,取π=3.141 59,则其凑整误差为-0.000 002 653…。由凑整规则可知,极限凑整误差的绝对值等于凑整后的数值中最末一位的0.5个单位。以毫米为单位测量某段距离l,现将其凑整为49.56 m,求该凑整数的最大凑整误差与最小凑整误差。而最小凑整误差可认为是0,即凑整前的观测值l前=49.560 m。因此,任何一个具体的近似数,都能很准确地指出它的极限凑整误差。

近似数的凑整误差-凑整规则与测量基础

经过观测或计算得到一些数,当要在这些数的右边舍去一位或几位数字时,就需要将这些数凑整。因为有凑整,使数字进位或舍去而引起的误差,就称为凑整误差。凑整误差可用凑整之后的数值l减去凑整之前的数值l,即

例如,π=3.141 592 653…,要求保留四位小数时,取π=3.141 6,其凑整误差Δ=l-l=3.141 6-3.141 592 653…=+0.000 007 346…;若要求保留5位小数,取π=3.141 59,则其凑整误差为-0.000 002 653…。又如,方向观测法测量水平角时,将盘左读数36°05′25″与盘右读数36°05′28″取平均值,不凑整时的准确平均值为36°05′26.5″,凑整后的近似值为36°05′26″,则凑整误差Δ=36°05′26″-36°05′26.5″=-0.5″。

凑整误差的最大可能值,称为最大凑整误差,或极限凑整误差。由凑整规则可知,极限凑整误差的绝对值等于凑整后的数值中最末一位的0.5个单位。

【例6-19】 以毫米为单位测量某段距离l,现将其凑整为49.56 m,求该凑整数的最大凑整误差与最小凑整误差。(www.xing528.com)

[解] 凑整误差:

按凑整规则,上式中l最小的值是49.555 m,最大是49.565 m,代入公式,可分别算出凑整误差的最大值Δmax=49.56 m-49.555 m=0.005 m=5 mm,最小值Δmin=49.56 m-49.565 m=-0.005 m=-5 mm,其绝对值均为5 mm,这被认为是固定的极限凑整误差。而最小凑整误差可认为是0,即凑整前的观测值l=49.560 m。

因此,任何一个具体的近似数,都能很准确地指出它的极限凑整误差。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈