＞開いたフォームが別スレッドなら閉じることは出来ないです。

それはないと思います。
重い処理用に開いたサブフォームはメインフォームから通常の呼び出しで開いたフォームです。

'呼び出し例 

Dim f As New Form2

f.Show()

このサブフォームのBackgroundWorkerは２つ使っており、サブフォームのロード時に一つ目のDoWorkが起動し完了すると二つ目のDoWorkerが走るようにしてそれが終わった後のRunWorkerCompletedイベントでサブフォームを閉じる様にしています。


参考になるか分かりませんが、エラー箇所のＳＳもアップしてみます。
http://www1.axfc.net/uploader/Img/so/102475