Hvis datatypen er 16 bit, vil jeg umiddelbart gætte på at der er 1 sign bit 10 bit mantissa 5 bit eksponent
hvilket vil sige at du har 10 bit til at repræsentere et tal med og en eksponent der spænder fra -16 til +15
Men der burde følge noget dokumentation med til den half-precision implementation du anvender hvor du kan se layoutet af datatypen og eksempler på datatypens range. Hvis du ikke kender til principperne bag floating point repræsentation anbefaler jeg at søge lidt på google, det er for komplekst et emne at beskrive her.
Vi skal se noget implementations kode for at kunne sige noget specifikt.
16 bit vil ihvertfald betyde at præcisionen maksimalt er 4-5 betydende cifre, men formentligt mindre.
Generelt tror jeg ikke at det er et anbefalelsesværdigt approach. Jeg ville tro at det havde været bedre at lave en komprimering af 32 bit floats (ofte vil data nemlig ikke være tilfældige).
Synes godt om
Ny brugerNybegynder
Din løsning...
Tilladte BB-code-tags: [b]fed[/b] [i]kursiv[/i] [u]understreget[/u] Web- og emailadresser omdannes automatisk til links. Der sættes "nofollow" på alle links.