保留有效数字(乘除保留数字规则举例)

2022-04-03 02:03:09 发布:网友投稿
热度:172

乘除法:乘除运算中,保留有效数字的位数以位数最少的数为准,即以相对位数最大的为准。例如: 0.012×25.64×1.05782=? 以上3个数的乘积应为: 0.0121×25.6×1.01=0.328 在这个计算中3个数的相对误差分别为: E%=(±0.0001)/0.0121×100=±8 E%=(±0.01)/25.64×100=±0.04 E%=(±0.00001)/1.05782×100=±0.0009 显然第一个数的相对误差最大(有效数字为3位),应以它为准,将其他数字根据有效数字修约原则,保留3位有效数字,然后相乘即可。

相关关键词:保留有效数字
下一篇:羊排怎么做(煎羊排的家常做法)
上一篇:relative是什么意思(relative包括爸妈吗)