Krav til oppløsning for x/y/z i posisjon?

[petterreinholdtsen]

---

       Prosjekt  NOARK 5 Tjenestegresesnitt
       Kategori  Noark 5.5.0 TG versjon 1.0
    Alvorlighet  kommentar
   Meldingstype  utelatt
Brukerreferanse  [email protected]
    Dokumentdel  7.2.1.29.10 (Posisjon)
     Sidenummer  134
    Linjenummer  1809

---

Beskrivelse

Spesifikasjonen sier ikke noe om hvilken oppløsning x, y og z har, hvilket kan gi utfordringer på tvers av implementasjoner hvis noen implementerer dem med flyttal med for få bits til å gi meningsfyllt nøyaktighet på posisjonen. Gitt at posisjon gjerne vil være i grader/minutter/meter, så vil antagelig 8-bits eller 16-bits flyttall gi for dårlig posisjonsnøyaktighet, mens 32-bits og 64-bits
antagelig vil gi grei nøyaktighet. Bør spesifikasjonen si noe om krav til flyttals-oppløsning?

Ønsket endring

Foreslår at spesifikasjonen sier at x, y og z må minst ha samme oppløsning og presisjon som 32-bits IEEE flyttall, men det bør kanskje spesifiseres per koordinatsystem?

[tsodring]

Edm.float finnes ikke på odata-siden, men det finnnes en Edm.Single der. Denne gir inntrykk at en float verdi er en Edm.Single. og da er følgende beskrivelse fra OData som gjelder

Edm.Single IEEE 754 binary32 floating-point number (6-9 decimal digits)

men vi bør kanskje sjekke litt mer.