Hvordan ændrer man så Decimaitallet bliver , istedet for .

I stedet for at ændre datatypen(decimal) i dine data, kan du formatere dit output med funktionen FORMAT, som f.eks. "SELECT FORMAT(.0375, 'N2', 'da-dk')" der gir' "0,04" som resultat.
Læs mere her: https://docs.microsoft.com/en-us/sql/t-sql/functions/format-transact-sql

Jeg forstår ikke problemet.

SQLServer gemmer tal binært ikke som tekst.

I den egentlige applikation vil applikationen styre parsning og formatering mellem tekst og binær.

Hvordan tallene ser ud i diverse administrative værktøjer er vel ligegyldigt.

Det troede jeg også, men efter at man gemmer  dataene som CSV vil decimalværdierne gemmes som punktummer og ikke som kommaer.

Og hvordan gemmer du data som CSV?

Jeg tror, at du kommer længst ved selv at vælge den ene eller anden måde at repræsentere tal på. Hvis installationen altid er "udenlandsk", må du rette ind, så de strenge du får fra csv-filen, omformes fra "," til "." før validering og sammenligninger.