Pytania otagowane jako floating-point

Liczby zmiennoprzecinkowe są przybliżeniami liczb rzeczywistych, które mogą reprezentować większe zakresy niż liczby całkowite, ale wykorzystują tę samą ilość pamięci, kosztem mniejszej precyzji. Jeśli Twoje pytanie dotyczy drobnych błędów arytmetycznych (np. Dlaczego 0,2 + 0,1 równa się 0,300000001?) Lub błędów konwersji dziesiętnej, przed opublikowaniem przeczytaj stronę „Informacje”, do której link znajduje się poniżej.




3
Podwójne rzutowanie na niepodpisany int w systemie Win32 jest obcięte do 2,147,483,648
Kompilowanie następującego kodu: double getDouble() { double value = 2147483649.0; return value; } int main() { printf("INT_MAX: %u\n", INT_MAX); printf("UINT_MAX: %u\n", UINT_MAX); printf("Double value: %f\n", getDouble()); printf("Direct cast value: %u\n", (unsigned int) getDouble()); double d = getDouble(); printf("Indirect cast value: %u\n", (unsigned int) d); return 0; } Wyjścia (MSVC x86): …

9
Jak przekonwertować ciąg znaków na liczbę w Perlu?
Mam ciąg, który zawiera wartość dziesiętną i muszę przekonwertować ten ciąg na zmienną zmiennoprzecinkową. Tak więc przykład łańcucha, który mam, to "5,45" i chcę mieć odpowiednik zmiennoprzecinkowy, abym mógł dodać do niego .1. Szukałem w Internecie, ale widzę tylko, jak przekonwertować ciąg na liczbę całkowitą.

8
JavaScript: Zaokrąglij do określonej liczby miejsc dziesiętnych, ale usuń dodatkowe zera
Oto scenariusz: dostaję, .9999999999999999kiedy powinienem 1.0. Mogę sobie pozwolić na utratę miejsca dziesiętnego dokładności, więc używam .toFixed(15), który rodzaj działa. Zaokrąglanie działa, ale problem polega na tym, że jestem podany 1.000000000000000. Czy istnieje sposób zaokrąglić do kilku miejsc po przecinku, ale usunąć dodatkowe spacje? Uwaga: .toPrecisionnie jest tym, czego chcę; …




2
Użycie liczb zmiennoprzecinkowych w jądrze Linuksa
Czytam „Linux Kernel Development” Roberta Love'a i natknąłem się na następujący fragment: Brak (łatwego) użycia zmiennoprzecinkowego punktu Kiedy proces przestrzeni użytkownika używa instrukcji zmiennoprzecinkowych, jądro zarządza przejściem z trybu liczb całkowitych do trybu zmiennoprzecinkowego. To, co jądro musi zrobić podczas używania instrukcji zmiennoprzecinkowych, różni się w zależności od architektury, ale …



3
Co to jest podnormalna liczba zmiennoprzecinkowa?
Strona odniesienia isnormal () mówi: Określa, czy podana liczba zmiennoprzecinkowa arg jest normalna, tj. Nie jest równa zeru, podnormalna, nieskończona ani NaN. Liczba równa zero, nieskończona lub NaN jest jasne, co to znaczy. Ale mówi też, że jest to nienormalne. Kiedy liczba jest niższa od normy?

17
Podwójna konwersja na ciąg bez notacji naukowej
Jak przekonwertować podwójne na reprezentację ciągu zmiennoprzecinkowego bez notacji naukowej w .NET Framework? „Małe” próbki (efektywne liczby mogą mieć dowolną wielkość, na przykład 1.5E200lub 1e-200): 3248971234698200000000000000000000000000000000 0.00000000000000000000000000000000000023897356978234562 Żaden ze standardowych formatów liczb nie jest taki, a niestandardowy format również nie pozwala na otwarcie liczby cyfr po separatorze dziesiętnym. To nie …

2
Jaki jest prawidłowy / standardowy sposób sprawdzenia, czy różnica jest mniejsza niż precyzja maszyny?
Często kończę w sytuacjach, w których konieczne jest sprawdzenie, czy uzyskana różnica jest wyższa niż precyzja maszyny. Wygląda na to, w tym celu R ma zmienną poręczny: .Machine$double.eps. Jednak po przejściu do kodu źródłowego R w celu uzyskania wskazówek dotyczących korzystania z tej wartości widzę wiele różnych wzorców. Przykłady Oto …

Korzystając z naszej strony potwierdzasz, że przeczytałeś(-aś) i rozumiesz nasze zasady używania plików cookie i zasady ochrony prywatności.
Licensed under cc by-sa 3.0 with attribution required.