ありがとうございます。

現時点では、
        ･･･
        Finally
            conn.Close()
            conn.Dispose()
        End Try
としています。

ex.GetType().FullName
も記述してみました。
とても参考になります。

「クローズ済オブジェクトの処理が無効です」
が発生したタイミングでは、SQL文の間違いとDo文でWhile～をコメントアウトしていたのかもしれません。
https://vbnetdb.net/odpnet/odpnet_dr_notclose.php
と同じ状況になっていたと思われます。