こんにちは、kmkmさん。

先にことわっておきますが、ドラッグ＆ドロップについては詳しくないのでほかにベストな方法や間違った回答をしているかも知れません。

DoDragDropの戻り値を判断して、ドラッグ＆ドロップの対象となった文字列を削除してあげればいいのではないかと思います。