LabVIEWの丸めこみの標準

更新しました Jun 3, 2019

使用製品

Software

  • LabVIEW Full
  • LabVIEW Base

問題

LabVIEWでの丸め込みの標準は何ですか? 四捨五入とは違いますか?

また、LabVIEW には「最も近い値に丸めこみ」という関数が用意されていますが、この関数に2.5を入力すると2が出力されます。四捨五入を行う関数はありますか?

解決策

LabVIEWで浮動小数点数が整数に変換されると、 最も近い整数に丸められます。唯一の例外は、2.5、3.5など、2つの整数のちょうど中間の数です。この場合、数は最も近い偶数の整数に丸められます。たとえば、2.5は2に丸められ、3.5は4に丸められます。具体的には、以下のように動作します。

1.5 → 2

2.5 → 2

3.5 → 4

4.5 → 4

5.5 → 6

6.5 → 6

これはIEEE規格754と一致しています。

 

四捨五入は、0.5を常に大きい整数値に丸めるので、統計処理を行う際に値が大きくなる傾向があります。例えば、もし元の数が1.5と2.5である場合、この数値の和は4で、平均値は2となります。

和:1.5+2.5 = 4

平均:4/2 = 2

しかし、1.5と2.5を四捨五入すると、2と3の値になり、平均は2.5になります。

四捨五入:1.5 → 2

四捨五入:2.5 → 3

和:2+3 = 5

平均:5/2 = 2.5

そこで、LabVIEWの「最も近い値に丸めこみ」関数を使いますと、1.5と2.5を丸めるといずれも2になり、平均を計算すると2になります。

丸めこみ:1.5 → 2

丸めこみ:2.5 → 2

和:2+2 = 4

平均:4/2 = 2

このように統計処理を行う際の精度の向上につながります。

四捨五入が必要の場合は、下記のように実装ができます。

メモ: この画像は、プロジェクトで再利用できるLabVIEWコードを含むLabVIEWスニペットです。スニペットを使用するには、画像を右クリックしてコンピュータに保存し、ファイルをLabVIEWダイアグラムにドラッグします。

Attachments

この記事はお役に立ちましたか?

いいえ