情報詳細Q:下記のように計算した結果から配列内の要素を選択するとエラーが発生する場合があります。 a:=2.45 b:=a*100 // b=245のはず SET:=[1:1000]// 245個以上のtuple Result:=SET[ b ]//ここでエラーが発生するa:=2.44だと正常に動作しますがなぜでしょうか?A:HALCONのreal型での計算は64bitであればdouble型と一緒で10進数では約17桁。このレベルで若干丸め込み誤差が発生する(添付画像[実際の値.png]参照)そのため、整数しか使えないオペレータに組み込むと想定と異なる動作が発生する場合があります。tuple_roundで四捨五入することでこうした内容を避けることが可能です。* tuple_intで行うと切り捨て処理なので違う選択をする場合が発生します。 添付ファイルNotRealSelect.zipタイトルtuple_selectでエラーが発生するURL 名000008502公開状況公開済み検証状況公開済み