簡単なサンプルコードを書きました。 
ボタンとリッチテキストボックスを用意してください。 
 
＞＞＞サンプルコード 
 
Imports System.Text.RegularExpressions 
 
Public Class Form1 
 
 
Private Sub Button1_Click(ByVal sender As System.Object, ByVal e As System.EventArgs) Handles Button1.Click 
 
Dim regex As Regex = New Regex("<.+?>") '*1 
Dim matches As MatchCollection = regex.Matches(Me.RichTextBox1.Text) 
 
For Each match As Match In matches 
Me.RichTextBox1.Select(match.Index, match.Length) 
Me.RichTextBox1.SelectionColor = Color.Red 
Next 
 
Me.RichTextBox1.Select(0, 0) 
 
End Sub 
 
End Class 
 
 
＞＞＞説明 
*1 
　.+?は、特殊記号を含めた文字が何文字でもOKとなります。 
　.*と書くこともできます。 
 
　他に不明点がありましたらレスに書いてください。