DX1000/DX2000に、1-5VDCを入力し、0.0~200.0%にスケーリングを行っています。 1-5Vレンジの測定確度は、±(0.05% of rdg +3digits) 、ディジタル表示最高分解能は 1mV と記述されています。 また、スケーリング時の測定確度(digits)=測定確度(digits)×スケーリングスパン(digits)÷測定スパン(digits)+2digits と記述されています。 精度は、どのように計算するのですか?

まず、スケーリング前の1-5V電圧測定の確度を計算します。rdgは、reading(読み値)の略です。
1V入力時には、0.05% × 1V+3mV=4mV(最高分解能以下切上げ)すなわち 4digitsです。
5V入力時には、0.05% × 5V+3mV=6mV(最高分解能以下切上げ)すなわち 6digitsです。
次に、スケーリング時の測定確度を計算します。
スケーリングスパンは、200.0 - 0.0=200.0、digitsでは 2000digitsです。
測定スパンは、5.000 - 1.000=4.000、digitsでは 4000digitsです。
スケーリング時の測定確度は、1V入力時には、4digits × 2000 ÷ 4000+2digits=4digits すなわち 0.0%±0.4%です。
5V入力時には、6digits × 2000 ÷ 4000+2digits=5digits すなわち 200.0%±0.5%です。

関連製品&ソリューション

ペーパレスレコーダ DX1000/DX2000

FDA 21CFR Part 11対応 拡張セキュリティ機能(オプション)を搭載したモデルです。

ペーパーレスレコーダ 内器引き出しモデル DX1000N

メンテナンス時に便利な内器引き出しモデルです。機能、外見、およびパネルカット寸法は、標準のDX1000とほぼ同等です。

トップ