＞リッチテキストボックスにIfなどの特定の文字を入力されたときに、その文字だけを青くする
というのなら、
リッチテキストボックスの入力を常に監視して(Change系のイベントとかでチェックするとか)
Ifなどの特定の文字が入力された場合はその文字を青くすればいいのでは？

＞改行されたときにその行にifなどの特定の文字が入力されていた場合に自動的に次の行に空白を開けその次の行にendを書き、空白の行の最後にカーソルを戻す

これも、同様のチェックで改行が入った時に、特定の文字をチェックして改行コードとendという文字と課入れるなどすればいいんでないか？
フォーカスを空白行に持ってくるのはちょいと考えないと上手くいかないかもしれないけど。