Q:
例えば画像中のXLDエッジに対して円近似を行い、円の中心が画像の領域外に存在する場合に、それを世界座標系として得るにはどのようにしたよいでしょうか？
円フィッティングした際の中心座標をimage_points_to_world_planeで変換すると意図しない結果となってしまいます。

A:
画像の領域外に存在する座標値をimage_points_to_world_planeで変換すると、ご指摘の通り意図しない結果となってしまいます。
ご希望の処理を実現する場合、画像の領域内に存在するXLDのみを世界座標系に変換したのち、世界座標系で表現されるXLDに対して円フィッティングを行うことが可能です。
簡単なサンプルプログラムは以下の通りです。

    * 画像の領域内のXLD座標値を取得
    get_contour_xld (Circle, Row, Col) //画像の領域外の座標を含む円のXLD
    gen_rectangle2_contour_xld (Rectangle, Height/2, Width/2, 0, Width/2, Height/2) //画像の境界の大きさでXLDを生成
    test_xld_point (Rectangle, Row, Col, IsInside)
    tuple_find (IsInside, 1, Indices)
    *
    * 画像の領域内のXLDのみを世界座標系に変換
    image_points_to_world_plane (CamParam, WorldPose, Row[Indices], Col[Indices], 'um', X, Y)
    gen_contour_polygon_xld (Contour, Y,X)
    *
    * 世界座標系における画像の領域内のXLDに対して円フィッティング
    fit_circle_contour_xld (Contour, 'algebraic', -1, 0, 0, 3, 2, Row1, Col1, Radius, StartPhi, EndPhi, PointOrder)
    gen_circle_contour_xld (ContCircle, Row1, Col1, Radius, 0, rad(360), 'positive', 1)
    *
    * 世界座標系での仮想円の座標値を取得
    get_contour_xld (ContCircle, WX, WY)