こんにちは。

講座に書かれているコードでは、
ActiveControlのCausesValidationプロパティがFalseの
ときは入力チェックを行わないようになっていますが、
Form右上の×ボタンを押したときや、Alt+F4を押したときの
ActiveControlはTextBox1のままなので入力チェックを行ってしまうようです。

とりあえずの対策としてチェックの条件を増やしてみました。
見た目はスッキリしませんが、とりあえずこれで閉じられると思います。

If ActiveControl.CausesValidation = False OrElse ActiveControl Is TextBox1 Then

    Exit Sub

End If