Q:
DeepLearning推論時のGPUメモリが解放されるタイミングはいつでしょうか。

A:
DLModelHandleがクリアされるタイミングでGPU側で確保しているメモリも開放されます。
◇Hdevの場合
・clear_dl_model(DLModelHandle)の実行

◇C#の場合
・ClearDlModel(DLModelHandle)の実行
・DLModelHandle.Dispose()の実行のいずれか