万分之一天平读数精确到几位
万分之一天平可准确到小数点后第四位0.0001g。根据电子天平的技术参数,zui小称量量,线性误差,重复性,不同天平其实是不一样的,哪怕都是万分之一的,0.0002肯定是做不到的。0.025g太小了,满足不了zui小称量要求,这个相对误差相当大的。一般小于5g,天平允许误差+/-0.5e,也就是+/-0.0005g。
因为小数点后第4位数字是估读,有可能四舍五入,所以第4位一般意义上是不准确的,严格上来说他精确到小数点后第3位。
在取小数近似数的时候,如果尾数的高位数字是4或者比4小,就把尾数去掉。如果尾数的高位数是5或者比5大,就把尾数舍去并且在它的前一位进"1",这种取近似数的方法叫做四舍五入法。
四舍五入是一种精确度的计数保留法,与其他方法本质相同。但特殊之处在于,采用四舍五入,能使被保留部分的与实际值差值不超过zui后一位数量级的二分之一:假如0~9等概率出现的话,对大量的被保留数据,这种保留法的误差总和是zui小的。这也是我们使用这种方法为基本保留法的原因。