「色を選択するところ」ではなく、
「文字を描画しているところ」のコードを提示してください。

> BackColorは変更が可能なのですが、なぜかForeColorは駄目なようです。
Label や TextBox とは異なり、PictureBox 自身は、
文字列を表示する機能を持たないため、ForeColor を使いません。
(そのため ForeColor プロパティは、開発ツールからは見えないよう非表示に設定されています)

選んだ色を保持しておく場所として ForeColor プロパティを使うのは構いませんが、
その場合、「文字を描画しているところ」のコードを修正し、ForeColor を用いるように
差し替える必要があります。

> 変更ができません。
色を変更するというよりは、もともと描いてあった縦書き文字列をクリアして
新しい色の縦書き文字列で描きなおすという処理になります。