返答ありがとうございます。

申し訳ありません。エクセルのマクロで作ってます。
開発ソフトがないのでエクセルで作っています。
やはりエクセルマクロでは難しいですか。
今回調べていく中でVB.NETに興味がわいたので今後勉強していきます。

今回はエクセルマクロで何とかしたいのでこのままがんばります。

＞この文面からエラーやESCでプログラムが終了した後に、
＞再度プログラムを起動して、閉じられていないポートを閉じようとしている
＞というように解釈しました。
＞プログラムが終了する直前のイベントで
＞ポートを閉じるようにする必要があると思います。
＞このような方向性で改修可能でしょうか？

プログラム終了する前にポートを閉じることができたら解決できると思います。
プログラムが終了する直前のイベントってことはサブクラス化が必要になるということでしょうか？