Kiedy używam standardowego kalkulatora Windows XP (v1.0.0.908) do przeliczania mil na stopy, pokazuje 1 mph = 5280 stóp. Ale kiedy przeliczam mph na FPH, mówi 1 mil na godzinę = 5279.98944 stóp na godzinę. A jeśli zrobię to samo, korzystając z kalkulatora zabawek z systemem Windows, wyświetli się 1 mph = 1760 stóp / godzinę. Prawdopodobnie są to stocznie, ale naprawdę waham się zaufać jednemu z nich w sprawach innych niż trywialne. ps. jeśli podzielimy 5280 przez błąd, otrzymamy dokładnie 500 000. Wszystkie inne konwersje wydają się być dokładne (m / s-mph, kmh-m / s) to tylko ta z udziałem stóp.
Jakieś pomysły?
3
Jakie jest Twoje pytanie?
—
gronostaj
Dlaczego wystąpił błąd?
—
Rbma12,
Czy to błąd programowania, błąd zaokrąglania, symptom zbliżającej się śmierci mojego komputera? Czy błąd ma charakter globalny? Chociaż powinienem wspomnieć, że właśnie zainstalowałem dodatek Service Pack 4 na XP pro sp3.
—
Rbma12,
Problemy z precyzją zmiennoprzecinkową. Wszystkie komputery to robią, ale tak naprawdę nie ma to znaczenia w codziennym użytkowaniu. Dopiero zaczyna odgrywać znaczącą rolę w obliczeniach naukowych.
—
gronostaj
W szkole napotkałem ten problem z prostym programem konwersji temperatury, ale tylko z wartościami ujemnymi. Menu pomocy tego kalkulatora używa ok. 10 razy frazy „ekstremalna precyzja”. To proste obliczenie
—
Rbma12,