横河電機株式会社
横河ソリューションサービス株式会社

DX1000/DX2000に、1-5VDCを入力し、0.0~200.0%にスケーリングを行っています。精度(測定確度)は、どのように計算するのですか?

1-5Vレンジの測定確度は±(0.05% of rdg +3digits)、ディジタル表示最高分解能は 1mVです。
スケーリング時の測定確度(digits)=測定確度(digits)×スケーリングスパン(digits)÷測定スパン(digits)+2digitsになります。

まず、スケーリング前の1-5V電圧測定の確度を計算します。rdgは、reading(読み値)の略です。
1V入力時には、0.05% × 1V+3mV=4mV(最高分解能以下切上げ)すなわち 4digitsです。
5V入力時には、0.05% × 5V+3mV=6mV(最高分解能以下切上げ)すなわち 6digitsです。

次に、スケーリング時の測定確度を計算します。
スケーリングスパンは、200.0 - 0.0=200.0、digitsでは 2000digitsです。
測定スパンは、5.000 - 1.000=4.000、digitsでは 4000digitsです。
スケーリング時の測定確度は、1V入力時には、4digits × 2000 ÷ 4000+2digits=4digits すなわち 0.0%±0.4%です。
5V入力時には、6digits × 2000 ÷ 4000+2digits=5digits すなわち 200.0%±0.5%です。

関連製品&ソリューション


トップ