萬(wàn)分之一天平讀數(shù)精確到幾位
萬(wàn)分之一天平可準(zhǔn)確到小數(shù)點(diǎn)后第四位0.0001g。根據(jù)電子天平的技術(shù)參數(shù),zui小稱(chēng)量量,線(xiàn)性誤差,重復(fù)性,不同天平其實(shí)是不一樣的,哪怕都是萬(wàn)分之一的,0.0002肯定是做不到的。0.025g太小了,滿(mǎn)足不了zui小稱(chēng)量要求,這個(gè)相對(duì)誤差相當(dāng)大的。一般小于5g,天平允許誤差+/-0.5e,也就是+/-0.0005g。
因?yàn)樾?shù)點(diǎn)后第4位數(shù)字是估讀,有可能四舍五入,所以第4位一般意義上是不準(zhǔn)確的,嚴(yán)格上來(lái)說(shuō)他精確到小數(shù)點(diǎn)后第3位。
在取小數(shù)近似數(shù)的時(shí)候,如果尾數(shù)的高位數(shù)字是4或者比4小,就把尾數(shù)去掉。如果尾數(shù)的高位數(shù)是5或者比5大,就把尾數(shù)舍去并且在它的前一位進(jìn)"1",這種取近似數(shù)的方法叫做四舍五入法。
四舍五入是一種精確度的計(jì)數(shù)保留法,與其他方法本質(zhì)相同。但特殊之處在于,采用四舍五入,能使被保留部分的與實(shí)際值差值不超過(guò)zui后一位數(shù)量級(jí)的二分之一:假如0~9等概率出現(xiàn)的話(huà),對(duì)大量的被保留數(shù)據(jù),這種保留法的誤差總和是zui小的。這也是我們使用這種方法為基本保留法的原因。
“推薦閱讀”
金鉆推薦
相關(guān)新聞動(dòng)態(tài)
- 稱(chēng)重模塊代替電子天平在恒溫恒濕箱稱(chēng)重的應(yīng)用
- 天平減震臺(tái)對(duì)天平實(shí)驗(yàn)數(shù)據(jù)有什么影響?
- 普利賽斯天平的常見(jiàn)特點(diǎn)和優(yōu)勢(shì)
- 什么是復(fù)檢秤?它的特性?xún)?yōu)勢(shì)有哪些?
- 不銹鋼地磅帶引坡在食品工廠(chǎng)的應(yīng)用
- 電解槽稱(chēng)重模塊
- 帶移動(dòng)電源電子秤,24小時(shí)不間斷使用續(xù)航能力強(qiáng)
- 自動(dòng)化配套在線(xiàn)復(fù)檢秤的應(yīng)用
- OEM稱(chēng)重傳感器在離子電池電解液項(xiàng)目中應(yīng)用
- 水分測(cè)定儀在離子電池電解液項(xiàng)目中應(yīng)用