こんにちは。 
 
TextChangedイベントでなくてもいいのならば、 
KeyDownイベントで押されたキーを判定するというのは 
どうでしょう。 
 
    Private Sub TextBox1_KeyDown(ByVal sender As Object, ByVal e As System.Windows.Forms.KeyEventArgs) Handles TextBox1.KeyDown 
        If e.KeyData = Keys.OemPeriod + Keys.Shift Then 
            MsgBox(">が追加されました。") 
        End If 
    End Sub