>保存方法は、FileStreamでARGBを順番に1バイトずつ保存しています。
おそらく、この方法だと普通のビットマップ並み（ビットマップ以上？）に重くなります。
ZIPしても軽くならないということは、圧縮する画像が写真なのでしょう。

写真をJPEG画像くらいに圧縮するには、かなり高い技術が必要です。
JPEG形式で保存するときは、人の目に認識されにくい色の要素を削除したり、色の変化を波で表したりして画像を軽くしています。これを直接行う.NETのライブラリはないと思います。

普通にJPEGで保存すればよいと思いますが、
なぜ独自形式の画像を作ろうと考えているのでしょうか？