Double med MAX 9 decimaler

Du kan bestemme hvor mange decimaler din double skal vises med ved at
formatere eksplicit med String.Format !

String.Format("{0:#.000000000}", x)

eller

String.Format("{0:#.#########}", x)

men jeg er ikke overbevist om at det er dit problem !

nej .. det skal være så resultatet kun kan blive udregnet med 9 decimaler.. men jeg prøver lige.. tak

double er binært baseret d.v.s. at det er a1/2+a2/4+a3/8+a4/16+...
ikke decimalt baseret a1/10+a2/100+a3/1000+... d.v.s. at en double
ikke har "antal decimaler" i klassisk betydning.

Muligvis kan du bruge typen decimal i.s.f. double.

Muligvis kan du runde lidt af med:

x = ((long)(x * 1000000000)) / 1000000000;

Men det afhænger meget af hvad du vil.

imgHeight = converted.Height;
imgWidth = converted.Width;
if(imgHeight > maxWidth){
    newWidth = maxWidth;
    scaleFactor = (float)imgWidth / maxWidth;
    newHeight = imgHeight / scaleFactor;
    }else{
        maxWidth=converted.Width;
            newHeight=(float)converted.Height;
            }


Det jeg vil er at tage mit converted bitmap.. hente højde og bredde på dem.... hvis bredden er breddere end 500(maxWidth)skal den sætte newWidth(den nye bredde på bitmap) til 500... regne ud hvormange procent mindre billedet er .. og derefter scalere højden probertionelt... tager vi så eksempelvist et billede på 3072x2048 og sætter bredden til 500 bliver scalefactor =  6.1444 .. og den nye højde 333,1/3.. og det er her den laver fejl tror jeg...

Har siddet og tænkt på om man kunne regne det ud på en anden måde.. men mine matematiske evner er ikke noget at prale af...

JAcob

jeg har prøvet at tage et billede der har den størrelse og scale det ned til 3000x2000 så virker det fint... jeg har forsøgt med 40 mb jpg billeder og det virker fint... så jeg tror kun det kan være der...

Jeg er ikk ekyndig ud i grafik men jeg troed altså at billed dimensioner
per definition skulle være heltal ??

ja det laver jeg dem også om til.. men jeg vil gerne have den regner det så præsist ud til sidst

sidst = som muligt

333.3 og 333.333333333 bliver da begge til 333

spørgsmålet er sådan set bare hvordan jeg får x til ikke at blive for lang ved ligningen | x = 10 / 3 | hvis jeg blot skriver det ud som en double laver den det godt nok om.. så det bare bliver 3.333333333 .. jeg er lidt lost

ja.. men det er før jeg saver mit bitmap den laver fejl...

x = 10 / 3; vil altid fylde præcist 64 binære cifre. Double gemmes ikke som
decimaler. Så det er ihvertfald ikke problemet.

Arna >> kom lige med et svar så deler vi point.. jeg fandt en simpel løsning.. jeg gangede det hele med 10000 og brugte int's

tak for din tid

Arne sorry :)

Så ligger jeg et svar

Tid at lukke spørgsmålet ?