プロジェクトのプロパティから Windowsアプリケーションフレームワークプロパティの
シャットダウンモードを 『最後のフォームが閉じるときに』 に設定してみてください