魔界の仮面弁士様
コメントありがとうございます。
試してみたコードについては掲載されたものほぼそのままパクリでした。

僕の方でも、短いHTMLを使用してBackColor→ForeColorの順とForeColor→BackColorの順でexecCommandしてみましたが、いずれも、対象文字のouterHtmlは以下の通りでした。
（BackColorはYELLOW, ForeColorはRED）
<FONT style="BACKGROUND-COLOR: #ffff00" color=#ff0000>対象</FONT>

でも、検索対象のHTMLが大きい（検索箇所が多い）と、ForeColor・BackColorの順番の違いが
非常に顕著でビックリです。
（これは試してみると分かりますので、もじお時間がございましたらお試しください。）
テキストサイズが1MB程度のHTMLで検索+色設定を行うと、
ForeColor→BackColorの順では数秒程度で処理が終わったのですが、
BackColor→ForeColorの順だとフリーズしたような状態になります。
放っておいたら処理が終了していたみたいですが、どれくらい時間がかかったのか分かりません。
なお、検索箇所は8000くらいでした。

ForeColorはcolor属性で設定されていて、BackColorはstyle属性のBACKGROUND-COLORで
設定されていますが、この違いが影響しているのでしょうか？