Matsuzakiさん、こんにちは。
GAMEスクリプトを使うのが簡単かと思います。こちらのオリオン大星雲と馬頭星雲を例に説明します。
RangeMaskで作ったマスクがこちらです。
ここでGAMEスクリプトでオリオン大星雲の領域のマスクを作ります。GAMEスクリプトの使い方はこちらをご参考にされてください。https://masahiko.me/game-stript/
マスクはBinary Maskを選択ください。
このマスクの名前を、Game_maskとします。
ここでPixelMathを起動して、下記の設定にします。
・入力する式: range_mask * game_mask
・Create New Imageを選択
そうするとオリオン大星雲のマスクができます。
ただM82ならば、上記のようにしなくてもGAMEでそのままマスクを作っても良いですね。私は銀河はほとんどGAMEをそのままマスクにしています。