手っ取り早く実現するには、以下の方法で実現できます。
・まずフォーム3をデザイナで作成します。
　ここではとりあえずフォーム3のクラス名をForm3, ここに貼り付けたリッチテキストボックスの名前をRichTextBox1とします。
・フォーム3を開くボタンクリック時に、例えば以下のコードを書いて、開くフォームのリッチテキストボックスに
　選択されたタブのリッチテキストボックスの内容を表示します。

Dim f As New Form3



'選択されたタブのリッチテキストボックスの内容をForm3のリッチテキストボックスに設定 

f.RichTextBox1.Rtf = （選択されたタブにあるRichTextBox）.Rtf

'文字飾りや段落等の書式が不要（テキストの内容だけ）であれば、 

'f.RichTextBox1.Text = （選択されたタブにあるRichTextBox）.Text でもいいでしょう。 

'また、選択されたタブにあるRichTextBoxの部分は、タブ上のコントロールがリッチテキストボックス1個だけであれば、 

'貴方のコードに書いてあるような 

'CType(TabControl1.SelectedTab.Controls.Item(0), RichTextBox) 

'でもいいです。 



'フォームを開く 

f.ShowDialog()  'あるいはf.Show()  

ただ、上記のように、Form3のリッチテキストボックスに直接アクセスするよりも、Form3のプロパティやメソッドを用意して、
Form3のリッチテキストボックスの設定を行う方が望ましいです。