＞＞TextBox1.Text = TextBox1.Text + TextBox2.Text
＞TextBox1.Text = TextBox1.Text + + TextBox2.Text にすると自動的にDoubleに変換されて計算できるみたいです。 

Option Strict Off(暗黙の型変換を許可)の設定の場合ですね。

１つ目の+はニ項演算子の+で、2つ目の+は単項演算子で、
以下のような意味として解釈されるからですね。
(TextBox1.Text="1"、TextBox2.Text="2"として説明)

"1" + + "2"
    ↓
"1" + (+ "2")
    ↓
"1" + (+2)
    ↓
"1" + 2
    ↓
1 + 2