KOZ さんの回答を借りて、一度ジャグ配列に入れなおして、並び替えたあと
2次元配列に入れなおせば良いだけかと。

2次元配列のままどうにかしたいなら、Compareしたときに同一行のデータも
同じように入れ替えるコードを自作する必要があります。
並べ替えのコード自体は、プログラム初級者がやる演習として色々なサイトで
紹介されているので参考にしてみてください。