Avatar billede syncroniq Nybegynder
26. oktober 2006 - 14:21 Der er 7 kommentarer

Problemmer med simpelt regnestykke

Hey,

Jeg skal trække 180 fra 180,6 og forventer pænt meget et resultat på 0,6. Men får 0,6000061 !

Nogen der lige kan fortælle mig hvad der går galt ? Og nej, sidder ikke på en pentium Pro LOL....

Min kode ser således ud.

dim tmp2 as string
tmp2 = CStr((CSng(payed) - CSng(tmp3)))

Jeg har også prøvet med Cdbl og det giver en anden værdig.

Jeg er lidt i tidsnød, derfor er der gode point på højkant til den første der kan løse problemmet.
Avatar billede supertekst Ekspert
26. oktober 2006 - 15:09 #1
prøv: tmp2 = CStr((CCur(payed) - CCur(tmp3)))
Avatar billede sjh Nybegynder
26. oktober 2006 - 17:11 #2
ellers prøv med Format()

tmp2 = Format(payed - tmp3, "0.0")
Avatar billede hiks Nybegynder
28. oktober 2006 - 16:45 #3
er det ikke noget med at både single og double typerne er af typen floating.

hvis man ændrer din kode til 190.6 fra 180 så stemmer det jo godt nok og det har jo nok noget at gøre med at der er en decimal mindre og derfor bliver rundet op. andre?

/hiks
Avatar billede hiks Nybegynder
28. oktober 2006 - 16:55 #4
Avatar billede syncroniq Nybegynder
28. oktober 2006 - 20:27 #5
Hey,

Jeg fandt ud af hvor problemmet lå. Der var ikke installeret nogen form for service pack på den vb6 jeg sad på. Efter den blev installeret fungerede det fint (samt andre ting jeg havde boxet med).

Jeg havde jo også prøvet double, og fik bare et andet dårligt resultat.

Hvad gør jeg med point? Er ikke så kendt med hvad man gør herinde.
Avatar billede sjh Nybegynder
28. oktober 2006 - 21:12 #6
Hvad gør jeg med point?

Hvem ønsker du at give point til.. så må vi så ligge et svar.. ellers også ligge du bare selv et svar og taget dem igen hvis ingen af os vil ha point.
Avatar billede supertekst Ekspert
29. oktober 2006 - 11:53 #7
OK - jeg lægger et svar
Avatar billede Ny bruger Nybegynder

Din løsning...

Tilladte BB-code-tags: [b]fed[/b] [i]kursiv[/i] [u]understreget[/u] Web- og emailadresser omdannes automatisk til links. Der sættes "nofollow" på alle links.

Loading billede Opret Preview
Kategori
Kurser inden for grundlæggende programmering

Log ind eller opret profil

Hov!

For at kunne deltage på Computerworld Eksperten skal du være logget ind.

Det er heldigvis nemt at oprette en bruger: Det tager to minutter og du kan vælge at bruge enten e-mail, Facebook eller Google som login.

Du kan også logge ind via nedenstående tjenester