Button1のプロパティの「FlatStyle」を「Flat」にし、
プロパティ「FlatAppearance」の配下に
       BorderColor
       BorderSize
       MouseDownBackColor
       MouseOverBackColor
があります。ここの設定を変えるとできました。
「FlatStyle」が「Flat」以外はできないようです。