设为首页
加入收藏
乘除法的运算规则规定:以参与运算的分量中有效数字位数最少的分量为准,其它分量(包括常数)保留到比上述分量的有效数字多一位,经过运算,最后结果在一般情况下可取到与该最少位数的分量位数相同,某些情况下则要多留一位。
例如:N=ABC/DE,A=28.4,B=3.15673,C=0.0042,D=625.4,E=3.425,其中C的有效数字位数最小,是两位,则其余各量取三位,因此
N=(28.4×3.16×0.0042)/625×3.43=1.8×10- 4
|