Mért van az, hogyha például a számológépbe beütöm, hogy 500/18 és az eredményt visszaszorzom 18-cal akkor se nem 500-at, de még csak nem is 499,99999 a végtelenségig-et kapok, hanem 499,99998-at. Nos hogy jön oda a 8?

azért mert a számítógép csak egy bizonyos pontossággal tudja eltárolni/feldogozni a számokat

a valóságban mikor elosztjuk ezt a számot akkor kijön egy végtelen/véges tört, ehelyett a számítógép egy másik nagyon közeli számot rak el, ezért visszaszorzáskor meglátszódik az a hiány amit lekerekített eltároláskor a gép

illetve azért elyettesíti egy másik számmal mert az eltárolható számok intervalluma fel van osztva annyi részre amilyen pontossággal tárolja a számokat (tulajdonképpen hogy hány db számot tud tárolni) és a legközelebbi tárolhatóként rakja el

egy egyszerü példán nézve mondjuk ha van egy 4 bites gép ami 0-8 ig bezárólag tud számokat tárolni akkor a 4 bit miatt 16 féle számot tud eltárolni (0010, 1010, 1110 stb..16 féle változata) , és ebből kell kigazdálkodni a 0-8 intervallumot igy csak 0.0, 0.5, 1.0, 1.5...stb, igy tudja eltárolni egészen 8-ig

ilyenkor bármi jön ki egy számolásnál, azt a legközelebbi tárolható számként fogja elrakni pl 67.848/15 = 4.5232 -> 4.5 igy 4.5*15= már csak 67.5

A mezei számológépek nem tudnak végtelen tizedessel számolni, így a visszaszorzott eredményed matematikailag helyes.

Próbáld meg itt a számítógépen a start menüből előhalászni a számológépet, az 500-at fog visszaadni neked.