知识之窗

2006年5月

精度表述

介绍

当选择测量仪表、记录仪或其他设备时，客户主要会考虑输入传感器类型、测量或采样周期、精度及其他与其工业进程应用相匹配的特性。因此，本文解释了一些在µR系列一般规格和其他有关精度的文件中用到的术语，表述了选择记录仪的标准，同时也涉及到如何表达精度的基本理论。

1. 什么是精度？

精度是指在特定条件下测量仪表的精确度，由多种因素造成的误差极限(误差幅度)表示。换言之，它表示了由测量仪表得出的测量值与真实值的接近程度，同时也说明误差的极限值与输入信号有关。在仪表测量的情况下，精度常用百分比误差和绝对误差两种形式来表示，例如: ±(测量值的0.1% + 1 位)，或±(测量值的0.2% + 1mV)。

*: 根据JIS的相关规定，真实值是指“使用无固有误差的方法测量给定量的值”，但现实中获得一个完全没有误差的测量值是不可能的。因此传统概念中的真实值，是指尽可能接近真实值，这个传统意义的真实值可追溯到国家标准，或使用者之间公认的标准。

同样地，因为精度受温度、湿度和其他现象的影响，一般规格中列出的精度是在给定的条件范围下获得的。例如，μR系列一般规格如下所述。

测量/记录精度: 标准操作条件: 23 ± 2°C，55 ±10% RH，电源90～132V AC和180～264V AC，电源频率 50/60 Hz ±1%，预热时间30分钟或更多，无振动等不利条件。

2. 如何表述µR系列记录仪的精度？

µR系列记录仪的测量误差和记录误差被作为规格的一种，例如，下表显示了µR系列一般规格是如何描述精度的(DC电压)。

输入	范围	测量(数字显示)		记录(模拟)
输入	范围	测量精度	最大分辨率	记录精度	分辨率
DC V	20 mV	±(0.1%读数+2位)	10 µV	测量精度 ± (0.3%记录范围)	笔式机型死区: 记录范围的0.2％打点式机型分辨率: 0.1mm
	60 mV		10 µV
	200 mV		100 µV
	2 V		1 mV
	6 V		1 mV
	20 V		10 mV
	50 V	±(0.1%读数+3位)	10 mV
	1-5 V	±(0.1%读数+2位)	1 mV

测量误差
测量误差示为测量精度，对于2V的测量范围，精度表示如下:
测量精度:±(0.1% 读数 + 2位)
   rdg: 读数(读入值)
   数位: 独立于输入的确定的误差。可以显示的最小值是1个数位，此处即µR系列记录仪的
   分辨率，在2V的范围里，1个数位=0.001V(1mV)

计算示例
   在2V范围中测量2V时确定测量精度。
记录误差
记录误差示为记录精度，对于DC电压，精度表示如下:

记录精度: 测量精度± (0.3 %记录范围)
记录范围: µR10000: 100 mm; µR2000: 180 mm

计算示例
   在µR10000上，设定2V范围，0～2V的测量范围，100mm的记录宽度。在测量2V时
   得到记录精度(上述项目a的计算结果，在2V时的测量精度是± 0.004 V)

   *1: 记录宽度
   *2: 记录范围
数显分辨率
由于记录仪将模拟输入信号转换成数字信号，所以显示分辨率由A/D转换器的性能决定。分辨率既可以是显示分辨率也可以是测量分辨率，表述DC电压时以µV或mV为单位，表述温度时以°C为单位。µR系列一般规格中选用数显分辨率(与测量分辨率相对)。