> そのFormを閉じるとき、そのコントロールはコード上でDisposeしなくちゃダメですか？

Form 上に貼ったままフォームが閉じられれば、子コントロールも一緒に Dispose されます。

> （例えば、Formを開いたり閉じたりを繰り返すと問題が出る？）

フォームを閉じる前にコントロールを取り除く場合には、Dispsoe が必要です。
Controls に対して Clear メソッドや Remove / RemoveAt メソッドを使う場合は、
Dispose し忘れにご注意ください。