Q:
AIアクセラレータでoptimize_dl_model_for_inferenceを適用済みのモデルを使用した場合、gen_dl_model_heatmapで4301 'Training is unsupported with the selected runtime.'のエラーが発生します。どうしたら良いでしょうか？
また、Deep Learning ToolでAI2デバイスを使用して最適化した場合に画像分類ヒートマップが出力されません。

A:
AIアクセラレータ (AI2デバイス) では画像分類のヒートマップを出力することはできません。これは仕様です。
Deep Learning Tool (DLT) でも内部でHALCONを使用している都合上、同様の制約を受けます。

optimize_dl_model_for_inferenceでは、推論のためにネットワークを最適化し、その過程で学習時の情報であるネットワークの勾配(gradient)などを削除します。こういった最適化によって、推論速度の向上、RAM使用量の抑制を行います。
一方で、gen_dl_model_heatmapはヒートマップの出力のために、学習時の情報であるバックワードパスを必要とします。

下記：gen_dl_model_heatmapのオペレータリファレンスより引用

システム要件: このオペレータはバックワード・パスで動作します。そのため、深層学習ベースのモデルのトレーニングと同じシステム要件が適用されます。詳細については、「インストールガイド」の「ディープラーニングおよびディープラーニングベースの手法に関する要件」の項を参照してください。
System requirements: This operator performs a backward pass. As a consequence the same system requirements apply as for the training of deep-learning-based models. For further details, please refer to the “Installation Guide”, paragraph “Requirements for Deep Learning and Deep-Learning-Based Methods”.

つまり、学習を実行可能なデバイスでのみgen_dl_model_heatmapを実行可能であり、学習を行えないデバイス (パラメータ：inference_only=true) ではヒートマップに対応していません。

学習・検証時にのみヒートマップを使用し、装置運用時はOpenVINOやTensorRTなどで推論結果のみを取得する運用が想定されています。
HALCONの外で定時バッチ処理を実装し、NG品にのみヒートマップを出力して保存するような仕組みをし組み込んでおく、といった方法も考えられるでしょう。

※グローバルアノマリー検出・アノマリー検出はヒートマップそのものが深層学習モデルの出力であるため、AI2デバイスであってもヒートマップが出力されます。画像分類におけるヒートマップはあくまで付加情報であるため、AI2最適化によって出力されなくなってしまうと捉えてください。