補足ですが、
C#だと分かりやすく Program.cs というファイルに自動で書かれた Sub Main が出てきますが、
VBだと表に出てこないかも。エラーメッセージがMyApplicationの下にあるって言ってるし、
スタートアップフォームを決めたら、裏で自動で作られちゃうのかもね。

Sub Main はプログラムを開始する特殊な関数で、そこからプログラムを起動するお約束の
関数です。なので「Windows フォーム アプリ」のまま実行したいなら、関数名を別のものに
変更して、ボタンクリックのイベント関数から、変更後の関数名呼ぶような形にしても良いでしょう。