こんにちは。

VBのバージョンがわからないので、2002以降と仮定した上で、
仕組み的にシンプルなものを紹介します。
るしぇさんのロジックの具体的なコードともいえます。

Public Class Form1



    Dim ClickCount As Integer



    Private Sub Button1_Click(ByVal sender As System.Object, ByVal e As System.EventArgs) Handles Button1.Click



        Select Case ClickCount

            Case 0

                PictureBox1.Image = Image.FromFile("C:\winnt\winnt.bmp")

            Case 1

                PictureBox1.Image = Image.FromFile("C:\WINNT\Help\iisHelp\common\cotoc.bmp")

            Case 2

                PictureBox1.Image = Image.FromFile("C:\winnt\test2.bmp")

        End Select



        ClickCount += 1



    End Sub

End Class

仕組みはシンプルですが、これだと画像の管理が面倒になります。
画像の管理方法によっては画像指定・読み込み部分のロジックは変わります。

この例では、
画像の指定→ファイル名直打ちで指定。
読み込み部分→Image.FromFile