確度と分解能って、そもそもナニ?

計測器などの確度と分解能について誰にでもわかりやすく解説

はじめに

計測器や電源、電子負荷などのカタログや仕様書に例外無く記載されている項目として「確度」と「分解能」があります。確度はその名の通り、正確さの度合いですが、分解能は全く異なります。今回はこのような確度と分解能について取り上げてみます。

確度とは

確度は電圧等を設定したときの「設定確度」と測定したときの「測定確度」があり、仕様書には次のように記載されています。(メーカによって表記方法は若干異なります)

設定確度: ±(0.2% of stg. + 0.1% of f.s.)

測定確度: ±(0.1% og rdg. + 0.1% of f.s.)

このふたつで異なるのは、stg.(Setting:設定値)とrdg.(Reading:読み値=測定値)ですが、基本的な考え方は同じです。また、f.s.は「フルスケール(最大値)」を意味しており、レンジが複数ある場合、f.s.ではなく Range(使用しているレンジのフルスケール) と記載することもあります。

例えば設定確度の場合、(設定値の0.2%+フルスケール値の0.1%)が「この値を設定したときの最大誤差」であり、式の先頭に±の記載がありますので、プラス側とマイナス側それぞれに同等の誤差が発生する可能性があるということになります。

測定確度の場合、(測定値の0.1%+フルスケールの0.1%)が「この値を測定したときの最大誤差」であり、設定確度と同様にプラス側とマイナス側それぞれに同等の誤差が発生する可能性があるということです。

分解能とは

分解能も確度と同様に「設定分解能」と「測定分解能」がありますが、分解能はデジタル特有の仕様でアナログ機器にはありません。分解能はその機器の中に使用しているADC(アナログ→デジタルコンバータ)あるいはDAC(デジタル→アナログコンバータ)の分解能に依存します。例えば、ある測定器に使用しているADCが16ビット分解能の場合、測定値を数値化するとき、この分解能より細かく数値化することは出来ません。(以下の例では簡略化のため、正の値のみで負の値は考慮していません)

10進数16進数2進数
000000000 0000 0000 0000
100010000 0000 0000 0001
65534FFFE1111 1111 1111 1110
65535FFFF1111 1111 1111 1111

16ビットの場合、最大値は65535となりますので、最小分解能は 1/65535 となります。仮に測定のフルスケールが160Vだとすると、測定最小分解能は 160 / 65535 = 0.00244V = 2.44mVとなります。つまり、測定結果は2.44mV単位で変化し、その中間は「飛び飛び」になるという訳です。ただし、このような場合ソフトウエアの処理で、2mV単位に丸められることもあります。

 このように、確度と分解能は全く異なる仕様なのですが、測定器などの仕様を確認するときは確度と分解能をセットで見る必要があります。確度が満足していても分解能が粗い場合、あるいは分解能が十分細かくても確度が不足している可能性があるからです。

関連情報

交流電源仕様書の見かた https://www.keisoku.co.jp/pw/u-po/20230831-01/

直流電子負荷仕様書の見かた https://www.keisoku.co.jp/pw/u-po/20230904-01/