ヴァン様、情報提供ありがとうございます。
しかしながら、今回の問題は、WebBrowserのDispose以前の問題
（バリバリにActiveの時の問題）なので、
残念ながら今回のケースでは利用できそうにありません。

ただし、先ほどの自己レスでのmicrosoftのフォーラムにあった方法は
今回のケースでは効果てきめんだったようです。
また、画像が表示されない（真っ白になる）という問題は、
色々と試した結果、WebBrowserのRefreshを行えば解消するようです。

ただ、画像数が数百もあるためか、Refreshによる再表示には
どうしても時間がかかります。
今後は、画像が表示されない情況では何が起こっているのかを
検証していきたいと思います。

また何か分かりましたら、報告いたします。