Int((2.1 - 1) * 10) = 1 ?

Det giver altså 11 hos mig.

Begge statements giver 11.

Int((CDbl(1.2) - 1) * 10)
Int((1.2 - 1) * 10)

Sorry. :)

Der står nok (1.19999999-1)*10 = 0.1999999999*10 = 1.9999999999999
som med en Int giver 1. Måske du skulle afrunde.

Det drejer sig givetvis om afrunding. Så resultatet af (1.2-1)*10 er 1.9999999. Når du tager en int, så giver den 1 i stedet for 2. Hvis nu resultatet havde været 2.0000000001, så ville den give 2.

F2: Begge statements giver nu 1 ;-)

Man kunne i gamle dage lave tilsvarende beregninger på TI lommeregnere. Der kunne man lave regnestykker som viste at 1=0 f.eks.

collector: Også det jeg tænkte.
Giver bare ikke mening at 1.2 er 1.199999999999999 ?

Hvis det er afrunding, så kan du ofte bare ligge lidt til.

Int((CDbl(1.2) - 1) * 10 + 0.000001)
Int((1.2 - 1) * 10 + 0.000001)

Det giver god mening. Når du skal opbevare 0.2 som en sum af 2 i minus
potenser, kan du ikke gøre det eksakt.

Jo det gør. Erikjacobsen har givet svaret på det. Det er den reelle årsag til problemet.

Jo.

Der er uendeligt mange flydende tal i det interval som en
floating poinst skal dække.

Derfor kan alle tallene ikke repræsenteres. Og er nødvendigt bare
at tage nærmeste.

De tal der kan repræsenteres eksakt af flydende tal er tal af formen:

(a1/2 + a2/4 + a3/8 + ...) * 2^b

Okay, men erikjacobsen gav svaret først,.. så smid et svar, erik. :)

Erik var først.

Men han er lidt svær at vride et svar ud af for tiden.

:-)

Tak, ingen point til mig.