Søg
Avatar billede pcdl Nybegynder
09. juli 2008 - 17:28 Der er 2 kommentarer

problemer med lommeregner regner forkert

Hej hvad er problemet med min lommeregner når jeg vil udskrive et simpelt resultat som dette
50000000000000000000000000000000000000/2 = 24.999.999.999.999.999.437.202.455.864.008.507.392,00

skriver den et mærkligt tal :S det virker hvis jeg bruger små tal men ikke når de bliver så store hvad er problemet der ?
Avatar billede bitmatic Nybegynder
09. juli 2008 - 18:06 #1
Nu er fejlen jo helt nede på 16.-17. decimal i dit eksempel.

Det er fordi floating point aritmetik på en computer ikke har ubegrænset nøjagtighed. Det er der ikke rigtig noget at gøre ved. Du kan selvfølgelig begynde at anvende 64-bit tal i stedet for, men det løser ikke problemet... Det gør bare problemet mindre.
Avatar billede bitmatic Nybegynder
09. juli 2008 - 18:14 #2
Se i øvrigt: http://en.wikipedia.org/wiki/Floating_point#Accuracy_problems
Avatar billede Ny bruger Nybegynder

Din løsning...

Tilladte BB-code-tags: [b]fed[/b] [i]kursiv[/i] [u]understreget[/u] Web- og emailadresser omdannes automatisk til links. Der sættes "nofollow" på alle links.

Loading billede Opret Preview
Kategori
Webudvikling kurser
Vi tilbyder markedets bedste kurser inden for webudvikling
Se alle Webudvikling kurser

Flere spørgsmål fra PHP kategorien

Titel Indlæg Oprettet Seneste aktivitet
Bruge PHP til at hente hjemmeside med fsockopen Af Strawberry i PHP 18 29/01/202613:08 02/02/202610:29
Hjemmeside der virker både på mobil og computer Af Strawberry i PHP 6 25/01/202620:06 30/01/202618:53
Hvordan får jeg reCAPTCHA på min hjemmeside? Af Strawberry i PHP 1 20/01/202621:11 23/01/202618:04
MS Graph vis kalenderaftaler Af dane022 i PHP 0 06/11/202508:43 -
Hente data fra DEVICE via websocket Af nemlig i PHP 6 25/06/202512:37 25/06/202519:17
Se alle spørgsmål i kategorien Opret spørgsmål

Log ind eller opret profil

Hov!

For at kunne deltage på Computerworld Eksperten skal du være logget ind.

Det er heldigvis nemt at oprette en bruger: Det tager to minutter og du kan vælge at bruge enten e-mail, Facebook eller Google som login.

Opret Log ind

Du kan også logge ind via nedenstående tjenester

Alle kategorier på Eksperten
Seneste spørgsmål Seneste aktivitet
I dag 13:45 AJAX kode -javascript Af Asky i Programmeringsværktøjer
I dag 11:50 Vælg indstilling - blå skærm med med flere muligheder for fejlretning Af Uvanga i Windows
I går 23:24 Google sheets beregning udfra dato Af rickiegrayholm i Office & Kontorpakker
I går 18:09 Outlook Classic, lukker ikke Af mort1 i E-mail programmer
13/0520:48 Bred buet skærm vs. 2 skærme Af Nanarsi i Skærme
White papers
Flere white papers »