Avatar billede zed_one Praktikant
21. august 2004 - 16:04 Der er 6 kommentarer og
1 løsning

regnefejl i asp?

Har oplevet at hvis jeg trækker et kommatal fra et andet, at jeg får et forkert resultat med en hulens masse decimaler.

altså feks (ikke at dette eksempel nødvendigvis vil gi regnefejlen):
a = 2,8
b = 1,3

a-b = 1,499999999999999

nogen der har en løsning?
Avatar billede erikjacobsen Ekspert
21. august 2004 - 16:06 #1
Brug http://msdn.microsoft.com/library/en-us/script56/html/vsfctformatnumber.asp
i forbindelse med udskrift. Og grunden til de mange decimaler er at ikke alle decimale
kommatal i kan repræsenteres eksakt som begrænsede binære kommatal.
Avatar billede zed_one Praktikant
21. august 2004 - 16:15 #2
oh! velformuleret og det hele :)
tak for hjælpen - smid et svar så jeg kan kaste dig dine point :)
Avatar billede erikjacobsen Ekspert
21. august 2004 - 16:19 #3
Tak, men jeg samler slet ikke på point. Svar selv, accepter eget svar.
Avatar billede zed_one Praktikant
21. august 2004 - 16:22 #4
well jeg samler heller ik på dem :) så de får lov til at ligge her og svæve i al evighed så.

Endnu engang tak for hjælpen
Avatar billede dj-sejler Praktikant
21. august 2004 - 21:43 #5
hvis det er sådan at der ikke er nogen der vil have dem, kan jeg da godt ofre mig ;)
Avatar billede snowball Novice
21. august 2004 - 22:33 #6
dj-sejler: Eftersom du ikke er helt ny bruger, så burde du vide at man ikke laver den slags svar. Du har ikke gjort dig berettiget til de point, så derfor laver man heller ikke et svar. Lad venligst være med at lave den slags igen, tak.

zed-one: Afvis venligst dj-sejler's svar, og lav derefter selv et svar som du accepterer eftersom erik ikke ønsker at modtage pointene.

Snowball / CoAdmin
Avatar billede zed_one Praktikant
20. februar 2005 - 15:07 #7
Åh pyt ...

er ved at gennemgå gamle spørgsmål jeg ik havde lukket, så jeg kan ende med et fint "0" under "Point ude"
Avatar billede Ny bruger Nybegynder

Din løsning...

Tilladte BB-code-tags: [b]fed[/b] [i]kursiv[/i] [u]understreget[/u] Web- og emailadresser omdannes automatisk til links. Der sættes "nofollow" på alle links.

Loading billede Opret Preview
Kategori
Kurser inden for grundlæggende programmering

Log ind eller opret profil

Hov!

For at kunne deltage på Computerworld Eksperten skal du være logget ind.

Det er heldigvis nemt at oprette en bruger: Det tager to minutter og du kan vælge at bruge enten e-mail, Facebook eller Google som login.

Du kan også logge ind via nedenstående tjenester