Fjerne border color på knap

Det kan du ikke. En button har ikke nogen Border-property, og de fire properties under FlatAppearence gælder kun hvis FlatStyle er Flat.
Så hvis du vil have en button uden border, er du nødt til at sætte FlatStyle til Flat, og så sætte BorderSize til 0.

Eller så skal du igang med at override din button, og så selv lave en control der tillader disse ændringer. Men det kan godt være besværligt og tidskrævende...

Måske kan du være heldig og finde en færdig .NET Button control, der understøtter den funktionalitet som du ønsker. Prøv og google det