問い合わせる前にMSDNライブラリのCreateGraphicsに書いてありますよ～
--引用--
返された Graphics は、必要がなくなった時点で、Dispose メソッドを呼び出して破棄する必要があります。Graphics は、現在のウィンドウのメッセージの存続期間だけ有効です。
--------

ちょちょっと実行するだけのサンプルなら致命的なことにはならないですが、長時間動くようなアプリだと不安定になったり止まったり落ちたりするようなことが起きると思います。