>ｂuttonコントロールのDialogResultプロパティで設定しました。 
なるほど。
それだとButtonのClickイベントでCancelする事はできません。
どうしてもButtonのClickイベントで処理したければ、DialogResultプロパティの設定を解除して
Clickイベント内で以下のようにすればOKです。

  If 閉じる時の条件がTrue Then

     Me.Close()

  End If