Programowanie floating-accuracy

30

Czy matematyka zmiennoprzecinkowa jest zepsuta?

Przekaż opinię na temat Przepełnienia stosu w poprzedniej wersji : Powrót na górę Przekaż opinię na temat Przepełnienia stosu : Вычисления на числах с плавающей точкой не работают Rozważ następujący kod: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Dlaczego zdarzają się te nieścisłości?

2981 math language-agnostic floating-point floating-accuracy

11

Jak niebezpieczne jest porównywanie wartości zmiennoprzecinkowych?

Znam UIKitzastosowania z CGFloatpowodu niezależnego od rozdzielczości układu współrzędnych. Ale za każdym razem, gdy chcemy sprawdzić, czy na przykład frame.origin.xjest 0to sprawia, że czuję się chory: if (theView.frame.origin.x == 0) { // do important operation } Nie jest CGFloatpodatny na fałszywych alarmów przy porównywaniu z ==, <=, >=, <, >? …

391 objective-c ios c floating-point floating-accuracy

6

Dlaczego te liczby nie są równe?

Poniższy kod jest oczywiście nieprawidłowy. Jaki jest problem? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r floating-point floating-accuracy r-faq

21

Co jest złego w używaniu == do porównywania liczb zmiennoprzecinkowych w Javie?

Zgodnie z tą stroną java.sun == jest operatorem porównania równości dla liczb zmiennoprzecinkowych w Javie. Jednak gdy wpisuję ten kod: if(sectionID == currentSectionID) do mojego edytora i uruchamiam analizę statyczną, otrzymuję: „JAVA0078 Wartości zmiennoprzecinkowe w porównaniu z ==” Co jest złego w używaniu ==do porównywania wartości zmiennoprzecinkowych? Jaki jest właściwy …

177 java equality floating-accuracy

4

Dlaczego wartość zmiennoprzecinkowa 4 * 0,1 wygląda ładnie w Pythonie 3, a 3 * 0,1 nie?

Wiem, że większość liczb dziesiętnych nie ma dokładnej reprezentacji zmiennoprzecinkowej ( czy matematyka zmiennoprzecinkowa jest zepsuta? ). Ale nie rozumiem, dlaczego 4*0.1jest ładnie drukowane 0.4, ale 3*0.1nie jest, gdy obie wartości mają w rzeczywistości brzydkie reprezentacje dziesiętne: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 >>> from decimal import Decimal >>> Decimal(3*0.1) …

158 python floating-point rounding floating-accuracy ieee-754

12

Czy można uzyskać 0, odejmując dwie nierówne liczby zmiennoprzecinkowe?

Czy w poniższym przykładzie można uzyskać dzielenie przez 0 (lub nieskończoność)? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } W normalnych przypadkach oczywiście nie. Ale co jeśli ai bsą bardzo bliskie, może (a-b)skutkować …

131 floating-point double floating-accuracy ieee-754

27

Skróć (nie zaokrąglij) liczby dziesiętne w javascript

Próbuję skrócić liczby dziesiętne do miejsc dziesiętnych. Coś takiego: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)robi właściwie, ale zaokrągla wartość. Nie potrzebuję zaokrąglenia wartości. Mam nadzieję, że jest to możliwe w javascript.

93 javascript floating-point floating-accuracy

4

Jaka jest najbliższa podwójna wartość 1,0, a nie 1,0?

Czy istnieje sposób, aby programowo uzyskać podwójną wartość najbliższą 1,0, ale w rzeczywistości nie jest to 1,0? Jednym z hackerskich sposobów byłoby zapamiętanie podwójnej liczby całkowitej do tej samej wielkości, a następnie odjęcie jednej. Sposób działania formatów zmiennoprzecinkowych IEEE754 skutkowałby zmniejszeniem wykładnika o jeden podczas zmiany części ułamkowej ze wszystkich …

88 c++ floating-point floating-accuracy

Pytania otagowane jako floating-accuracy