Avatar billede js_delphi Nybegynder
31. august 2009 - 15:47 Der er 3 kommentarer og
1 løsning

Datatype single og noejagtighed?

Hej,

Jeg er klar over at datatypen single har en begraenset noejagtighed, men gaelder det ikke kun efter kommaet?

Foelgende kode viser vaerdien 33333332.
Hvorfor regnes der forkert her?

procedure TForm1.Button1Click(Sender: TObject);
var
  a: single;
begin
  a := 33333333;
  ShowMessage(FloatToStr(a));
end;

Paa forhaand tak for evt. hjaelp!
Avatar billede arne_v Ekspert
31. august 2009 - 16:44 #1
Nej.

Floating point har flydende komma og praecisionen gaelder for alle cifre uanset komma.

Ca. 7 decimale cifre.
Avatar billede js_delphi Nybegynder
31. august 2009 - 17:12 #2
Saa fik vi styr paa det.
Tak.
Laeg svar.
Avatar billede arne_v Ekspert
31. august 2009 - 17:20 #3
Avatar billede arne_v Ekspert
31. august 2009 - 17:20 #4
Og et svar.
Avatar billede Ny bruger Nybegynder

Din løsning...

Tilladte BB-code-tags: [b]fed[/b] [i]kursiv[/i] [u]understreget[/u] Web- og emailadresser omdannes automatisk til links. Der sættes "nofollow" på alle links.

Loading billede Opret Preview
Kategori
Kurser inden for grundlæggende programmering

Log ind eller opret profil

Hov!

For at kunne deltage på Computerworld Eksperten skal du være logget ind.

Det er heldigvis nemt at oprette en bruger: Det tager to minutter og du kan vælge at bruge enten e-mail, Facebook eller Google som login.

Du kan også logge ind via nedenstående tjenester