Fejl i double udregning?

Jeg har lige testet i Excel, jeg får 0.000005

Der var engang nogle cpu'er der havde en lille regnefejl, jeg kan bare ikke huske hvilken.

Vi fik dem i et parti nye computere, for en 3 - 4 år siden, men vores forskere faldt over regnefejlen, og klagede, så de blev byttet.

hvis du har overclockning, kan den også regne forkert.


http://hosted.dailyrush.dk/boards/1412/topics/24018/

Ups, i min post, der skrev jeg 15 - 16 bit... det var forkert. Det er 15 - 16 decimal

Jeg tror ikke det har noget med det at goere, eftersom der er flere end min computer paa arbejdet der har samme problem.

Vaerdien er helt praecist:

0.00000049999999984784438

Som man kan se, er det faktisk ude paa det 15 - 16 decimal det gaar galt, saa det er rigtigt hvad de skriver. Jeg kan bare ikke se hvad mine to vaerdier har med saa mange decimaler at goere....?????????????!!!!!!!!!!!!!!1

Excel viser kun 0.0000005 fordi du ikke har valgt nok decimaler jeg kan også få excel til at vise 4,99999999847844000000000E-07

Problemet er at "uendeligt" mange tal skal skrives som X antal bit (x=32 eller x=64 x=128 alt efter type). Det gør at ikke alle tal kan skrives helt præsist. I en computer er der er ikke et binært tal for hver tal i virkeligheden. Det som styre det er væriden af det mindst betydne bit (LSB).

jeg viste på 10 decimaler, for at være sikker, der var kun nuller efter 5 tallet

ved ikke om det gør en forskel, men prøv:

double med = (min + max) / (double)2;

Typen double gør egenlig som den skal. Hvis afrunding er vigtig så brug decimal:

decimal dc_min = new decimal(-2.34269);
decimal dc_max = new decimal(2.342691);
decimal dc_med = (dc_min + dc_max) / new decimal(2.0);

For lige at bygge lidt videre på noget af det der allerede er skrevet.

en floating point (float og double i C#) er gemt som:

2^a * (1 + b1/2 + b2/4 + b3/8 + ...)

det betyder at ikke bare kan ikke alle tal repræsenteres eksakt men at
det er meget sjældent at decimaler kan repræsenteres eksakt da det bruges
1/2, 1/4, 1/8 etc. og ikke 1/10, 1/100, 1/100 etc..

Floating point er beregnet til fysiske størrelser med naturlig usikkerhed.

Jeg har 45 km til arbejde. Jeg har ikke 44.99999732 km til arbejde, fordi det giver
ingen mening at angive den afstand med den præcision.

Beløb og lignende skal normalt angives eksakt.

Derfor er der døds straf for at bruge floating point (float og double i C#)
til beløb.

Løsningen er det som hedder fixed point. Som er en eksakt data type med
et fast antal decimaler. Den er decimalt orienteret ikke binært orienteret
og kan repræsentere alle værdier indenfor range med det antal decimaler.
I sin mest primitive form gemmer man bare en integer og antal decimaler
således at 123 og 2 betyder 1.23 !

C# har indbygget en data type for det som hedder decimal.

Og jeg ville skrive decimal versionen som:

decimal min = -2.34269m;
decimal max = 2.342691m;
decimal med = (min + max) / 2;

m for decimal

chries>

double / int laver automatisk en konvertering fra int til double inden
division

mange tak skal i have alle sammen.

Jeg skulle mene at clausc var ude foerst.

Takker. Jeg deler gerne :)

.