产品推荐:气相|液相|光谱|质谱|电化学|元素分析|水分测定仪|样品前处理|试验机|培养箱


化工仪器网>技术中心>专业论文>正文

欢迎联系我

有什么可以帮您? 在线咨询

工厂实验室分析测试中的有效数字的运算规则

来源:南京鑫耀分析仪器制造有限公司   2012年03月28日 08:48  
在分析测定中,一般要经过几个测量步骤,获得几个测量数据,然后把这些数据经过适当的处理和运算,得出zui后的分析结果。由于各个数据的准确程度或有效数字不一定相等,因此运算时必须按照一定的规则运算,合理取舍各个数据的有效位数。只有这样,才能节省时间,又可避免得出不合理的分析结果。
①       加减法:其和或差的有效数字的保留位数,应以小数点后有效数字或位数zui少的数据为准(即以误差zui大的数据为依据),先修约后计算。
【例】若将下列3个数据相加:0.0121,25.64,1.0578,应如何运算?
解   运算时,先确定各有效数字的保留位数,按“修约规则”弃去不必要的数字后,再进行相加运算。
0.0121+25.64+1.0578=0.01+25.64+1.06=26.71
②乘除法:其积或商的有效数字的保留位数,应以各数据中的有效数字位数zui少的数据为准(即以相对误差zui大的数据为依据),先修约后计算。对修约后的数据全部相乘或除后的结果进行取舍,中间过程不再取舍。(即不能将其中几个数相乘或除后的积或商取舍各数据中有效数字位数zui少的位数后,再与其他数据相乘或除)。
【例】将0.0121,25.64,1.0578三个数相乘,应如何运算?
解   先计算出每个数据的相对误差:
0.0121的相对误差=0.0001∕0.0121×100%=0.8%
25.64的相对误差=0.01∕25.64×100%=0.04%
1.0578的相对误差=0.0001∕1.0578×100%=0.00009%
显然数据0.0121的相对误差zui大,因此各有效数字应取三位有效数字进行运算,其积取三位有效数字。
0.0121×25.64×1.0578=0.0121×25.6×1.06=0.328
③加减乘除混合运算:分别参照以上①、②分步进行运算即可。
④对数的运算:所取对数位数应与真数有效数字位数相等。
【例】若溶液中[H+]=9.6×10¯¹²mol/L,试计算溶液的pH值为多少?
解   [H+]=9.6×10¯¹²mol/L,根据pH的定义公式可得:

pH=-lg[H+]=-lg(9.6×10¯¹²)=12- lg9.6=12-0.98=11.02

免责声明

  • 凡本网注明“来源:化工仪器网”的所有作品,均为浙江兴旺宝明通网络有限公司-化工仪器网合法拥有版权或有权使用的作品,未经本网授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:化工仪器网”。违反上述声明者,本网将追究其相关法律责任。
  • 本网转载并注明自其他来源(非化工仪器网)的作品,目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品第一来源,并自负版权等法律责任。
  • 如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,否则视为放弃相关权利。
企业未开通此功能
详询客服 : 0571-87858618