精度就是指在特定的使用環境下,出現的大允許誤差。換句話說,精度就是用來表明數字多用表的測量值與被測信號的實際值的接近程度。
對于數字多用表來說,精度通常使用讀數的百分數表示。例如,1%的讀數精度的含義是:數字多用表的顯示是100.0V時,實際的電壓可能會在99.0V~101.0V之間。
在詳細說明書中可能會有特定數值加到基本精度中。它的含義就是,對屏幕顯示的右端進行變換要加的字數。在前面的例子中,精度可能會標為±(1%+2)。因此,如果表的讀數是100.0V,實際的電壓會在100.0+(100×1%+0.2)到100.0-(100×1%+0.2),就是98.8V~101.2V之間。
舉例說明:3位半數字萬用表的直流電壓2V檔準確度在說明書中的表達式為:±(0.5%+1),2V檔在3位半表上大顯示為1.999,此時括號中的1就是指0.001V,測量7號干電池端電壓為1.755V,電池真實端電壓的可能范圍是 1.755V±(1.755V×0.5%+0.001V)近似為1.755V±0.010V,真實值就在1.745V至1.765V之間。