> Form を複数開けるようにしていると無限ループ状態になる可能性があるので

これが何を意味しているのか分かりませんが、このフォームのインスタンスを唯一として使用したいということでしょうか？
シングルトンという概念もありますが、単純に、このフォームのインスタンスを生成するときに
開いているフォームがあるかどうかをチェックするのが手っ取り早いのではないでしょうか。
（このフォームを開く処理が書かれているのは親フォーム等の別クラスですよね？）

> MsgBox("『本処理』は既に起動中です。本プロセスは終了します。")

「プロセス」という言葉は、アプリケーション単位に使うことが一般的なので（例外あるかも）、
「本プロセス」というメッセージには違和感があります。