どうも，やりたいことをちゃんと分解できていないように見えます。

> 開いたmp3のファイル名をListBoxに表示して表示したmp3ファイルをダブルクリックしたら
> 音楽が再生するようにしたいです。
やりたいことは分解して箇条書きで書くようにしてはどうでしょうか。
今回だと，
・OpenFileDialogを使ってファイル名を得る
・ListBoxにオブジェクトを追加して表示する
・ListBoxのダブルクリックイベントへ応答する
・ListBoxから選択中のオブジェクトを取得する
・指定したファイルを再生する
の5つができればよいわけです。

最初の項目が出来ていて，最後の項目が出来かけなわけですが，残り3つの項目はどこまで解っていますか。
最後の項目が出来かけ，というのはFileNameフィールドを使っているためです。
これでは最後に開いたファイルしか開けません。
FileNameフィールドを使わないようにしてみてください。

References)
MSDN: ListBox.Items プロパティ (System.Windows.Forms)
http://msdn.microsoft.com/ja-jp/library/system.windows.forms.listbox.items.aspx
MSDN: ListBox.ObjectCollection.Add メソッド (System.Windows.Forms)
http://msdn.microsoft.com/ja-jp/library/system.windows.forms.listbox.objectcollection.add.aspx
MSDN: Control.DoubleClick イベント (System.Windows.Forms)
http://msdn.microsoft.com/ja-jp/library/system.windows.forms.control.doubleclick.aspx
MSDN: ListBox.SelectedItem プロパティ (System.Windows.Forms)
http://msdn.microsoft.com/ja-jp/library/system.windows.forms.listbox.selecteditem.aspx
MSDN: ListControl.DisplayMember プロパティ (System.Windows.Forms)
http://msdn.microsoft.com/ja-jp/library/system.windows.forms.listcontrol.displaymember.aspx