Pytania otagowane jako numeric-precision

2
Dlaczego niektóre języki zaokrąglają do najbliższej NAWET liczby całkowitej?
Języki programowania, takie jak Scheme (R5RS) i Python ( patrz to pytanie ), idą w kierunku najbliższej parzystej liczby całkowitej, gdy wartość jest dokładnie pomiędzy otaczającymi liczbami całkowitymi. Jakie jest tego uzasadnienie? Czy istnieje pomysł matematyczny, który ułatwia uzasadnienie następujących obliczeń? (R5RS odwołuje się do standardu zmiennoprzecinkowego IEEE jako źródła …
9
Dlaczego liczby zmiennoprzecinkowe są często używane w nauce / inżynierii?
Podczas badania dokładności liczb zmiennoprzecinkowych widziałem w kilku miejscach zdanie podobne do „liczba zmiennoprzecinkowa i liczba podwójna są ( zaprojektowane / wykorzystywane często ) w obliczeniach inżynierskich i naukowych ” Z mojego zrozumienia wynika, że ​​siła liczb zmiennoprzecinkowych i podwójnych to ilość pamięci, jakiej używają ze względu na (dobrą, ale …
5
Rozwiązania błędów zaokrąglania zmiennoprzecinkowego
Tworząc aplikację, która zajmuje się licznymi obliczeniami matematycznymi, napotkałem problem polegający na tym, że niektóre liczby powodują błędy zaokrąglania. Rozumiem, że zmiennoprzecinkowe nie jest dokładne , ale problem polega na tym , jak postępować z dokładnymi liczbami, aby mieć pewność, że przy ich wykonywaniu obliczenia zaokrąglanie zmiennoprzecinkowe nie spowoduje żadnych …
4
Jak rozpoznać niestabilne obliczenia zmiennoprzecinkowe?
W numeryce bardzo ważna jest umiejętność identyfikowania niestabilnych schematów i poprawy ich stabilności. Jak rozpoznać niestabilne obliczenia zmiennoprzecinkowe? Pracuję nad bardzo złożoną symulacją, w której współdziała wiele schematów numerycznych i szukam metody pozwalającej zidentyfikować jej słabe części. Pracuję nad modelem fizycznym obejmującym równania różniczkowe. Ogólny proces z lotu ptaka przedstawia: …
4
Obsługa bardzo dużych liczb w języku, który nie jest w stanie?
Próbuję myśleć o tym, jak bym zrobił obliczenia na bardzo dużych liczbach (do nieskończoności - intergeruje brak liczb zmiennoprzecinkowych), jeśli konstrukcja języka nie jest w stanie obsłużyć liczb większych niż pewna wartość. Jestem pewien, że nie jestem pierwszym ani ostatnim, który zadałby to pytanie, ale wyszukiwane hasła nie dają mi …
1
Implikowana precyzja funkcji zmiennoprzecinkowych
Przeglądając implementację funkcji innego programisty w celu obliczenia CDF o rozkładzie normalnym , zasugerowałem, aby albo zastąpić całą implementację wbudowanymi funkcjami Pythona, albo użyć SciPy, wspólnej biblioteki naukowej. Inny programista zauważył, że ani math.erfc()nie scipy.stats.norm.cdf()zapewnia żadnych gwarancji dokładności w swojej dokumentacji. Dlatego powinienem być bardziej ostrożny przy zastępowaniu algorytmu aproksymacyjnego …
Korzystając z naszej strony potwierdzasz, że przeczytałeś(-aś) i rozumiesz nasze zasady używania plików cookie i zasady ochrony prywatności.
Licensed under cc by-sa 3.0 with attribution required.