はじめまして。

>すなわち、この処理が完了したとき Tag の中身は『0以下』になっているわけです。
本当でした。
1回目にタイマーが止まったときのTimer1.Tagは0,0(Double)で
2回目は-1,0となっていました。
自分で書いておきながらタイマーが止まる条件を見落としていました。

そこでbtnStart_ClickイベントのMe.Timer1.Enabled = True前に
Me.Timer1.Tag = 50
と常に50からスタートするようにしたら、何度押しても想定通りに止まるようになりました！

あとは③をどう実装するかです。

｢タイマーが止まった時点の数字をListなどに詰めていって、既にListに含まれている数字はタイマーを止めない｣としようかと考えていますが、現実的ではない気がします。
50回数字が変わって51回目の数字がLabel1に表示されているとするならば
その数字がまた51回目の数字にならないという保障はないですよね？

何か良いヒントがあれば教えてください。