Avatar billede maqhem Nybegynder
20. september 2009 - 11:39 Der er 4 kommentarer og
1 løsning

Eksisterer tallet 9424714790850429 ikke i Flash?

trace(9424714790850430 - 2 == 9424714790850430 - 1);

Det taler for sig selv. Den siger true :S Hvorfor det? Jeg er tilfældigvis landet på dette tal med en af mine udregninger, og det giver slet ikke mening i mit hoved. Hvorfor lige det tal?
Avatar billede maqhem Nybegynder
20. september 2009 - 11:40 #1
Eller simplere endnu:

trace(9424714790850429); // 9424714790850428
Avatar billede maqhem Nybegynder
24. december 2009 - 12:03 #2
Lukker.
Avatar billede Slettet bruger
24. december 2009 - 13:12 #3
Fandt du en løsning siden du lukker?

Problemet er nok, at du benytter floating point.
F.eks. kan du med typen double kun repræsentere 15 betydende cifre - det 16. ciffer er kun "sikkert" for naturlige tal op til +/- 2^53 (=9,0072E15) - se http://go.microsoft.com/fwlink/?linkid=55424.
Hvis du i stedet benytter long som datatype, kan du nå helt op på 18 betydende cifre, da alle bit benyttes til opløsning. Med Long kan du repræsentere op til +/- 2^63 = 9,22337E18 (1 bit benyttes til sign). Hvis du benytter unsignet, har du alle 64 bit til rådighed og en range op til +/- 2^64 = 1,84467E19.
Avatar billede maqhem Nybegynder
24. december 2009 - 13:21 #4
I Flash findes der kun tre taltyper: int, uint og Number. Og når jeg ikke definerer en datatype, er det af typen Number, og jeg har aldrig set den opføre sig sådan før. Pyt, jeg lavede om på min algoritme og fandt min løsning sådan :)

Glædelig jul.
Avatar billede Slettet bruger
24. december 2009 - 13:31 #5
Super.. For med de datatyper, vil du ikke kunne nå op på den ønskede præcision (http://livedocs.adobe.com/flash/9.0/main/wwhelp/wwhimpl/common/html/wwhelp.htm?context=LiveDocs_Parts&file=00000047.html).

Du må også have en god jul.

/1
Avatar billede Ny bruger Nybegynder

Din løsning...

Tilladte BB-code-tags: [b]fed[/b] [i]kursiv[/i] [u]understreget[/u] Web- og emailadresser omdannes automatisk til links. Der sættes "nofollow" på alle links.

Loading billede Opret Preview
Kategori
IT-kurser om Microsoft 365, sikkerhed, personlig vækst, udvikling, digital markedsføring, grafisk design, SAP og forretningsanalyse.

Log ind eller opret profil

Hov!

For at kunne deltage på Computerworld Eksperten skal du være logget ind.

Det er heldigvis nemt at oprette en bruger: Det tager to minutter og du kan vælge at bruge enten e-mail, Facebook eller Google som login.

Du kan også logge ind via nedenstående tjenester