首页 理论教育 实验数据处理方法与实例

实验数据处理方法与实例

时间:2023-11-18 理论教育 版权反馈
【摘要】:整数如500中“0”,有效数字位数不能确定。如写成5.0×102是两位、写成5.00×102是三位有效数字。如:求80.1+3.46+0.7872的和,应以80.1为准,多余数字应按修约规则取舍,因此应为80.1+3.5+0.8=84.4。如求0.0431×27.84×1.0578的积,应以0.0431为准来保留其他数据的位数,因此应为0.0431×27.8×1.06=1.27。

实验数据处理方法与实例

实验中任何测量的准确度都是有限的,只能以一定近似值来表示测量结果。因此,测量数据的准确度就不能超过测量所允许的范围。如果任意地将近似值保留过多的位数,反而会歪曲测量结果的真实性。要正确记录和计算实验数据,就涉及到有效数字和数值运算规则问题。

3.3.1 记录测量数值,必须写出它的有效数字

有效数字是指实际测量得到的数字,它包括所有的准确数字和最后一位估计数字。例如50mL量筒上的最小刻度为1mL,在两刻度间可再估计一位,所以可读至0.1mL(如35.5mL)。若为50mL滴定管,最小刻度为0.1mL,再估计一位,可读至0.01mL(如25.41mL),若记录为25.4或25.416都是错误的。

注意“0”的双重作用:第1个数字前面的“0”,如0.0001564中“0”,只作定位用,不是有效数字;数字中间的和小数末端的“0”,如2500.38,6.9700中“0”,是有效数字。整数如500中“0”,有效数字位数不能确定。如写成5.0×102是两位、写成5.00×102是三位有效数字。

对于pH、pOH、pK、1gC等对数值,其有效数字的位数,取决于小数点后面的位数,而小数点前面的整数部分只表明该真数中10的方次数。如pH=10.68,即c(H+)=2.1×10-11,其有效数字为二位,而不是四位。

自然数和在计算中出现的倍数或分数,都不是测量所得到的,所以其有效数字的位数不受限制。

3.3.2 “四舍六入五留双”修约法(www.xing528.com)

修约时要合理取舍。凡有效数字右边第1位数等于或大于6则进位,小于4则舍去,等于5,如前一位是奇数则进位,是偶数则舍去。先修约后运算(使用计算器也可先运算后修约)。

3.3.3 有效数字运算规则

(1)计算结果所得的数值只能保留一位估计数字,弃去过多的估计数字。

(2)加减运算中,几个数相加或相减所得和或差的有效数字的位数,应以小数点后位数最少的那个数为准。如:求80.1+3.46+0.7872的和,应以80.1为准,多余数字应按修约规则取舍,因此应为80.1+3.5+0.8=84.4。

(3)乘除运算中,几个数相乘或相除所得的积或商的有效数字的位数应以有效数字位数最少的那个数为准。如求0.0431×27.84×1.0578的积,应以0.0431为准来保留其他数据的位数,因此应为0.0431×27.8×1.06=1.27。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈