Programowanie floating-point

3

Dlaczego NaN - NaN == 0.0 z kompilatorem Intel C ++?

Powszechnie wiadomo, że NaN rozmnażają się w arytmetyce, ale nie mogłem znaleźć żadnych demonstracji, więc napisałem mały test: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN - 6.0f; float sub3 …

300 c++ c floating-point ieee-754 icc

13

Niech liczba zmiennoprzecinkowa pokazuje tylko dwa miejsca dziesiętne

Mam wartość 25.00w float, ale kiedy drukuję to na ekranie, jest 25.0000000. Jak mogę wyświetlić wartość tylko z dwoma miejscami po przecinku?

296 objective-c formatting floating-point

6

Dlaczego zmiana kolejności sum zwraca inny wynik?

Dlaczego zmiana kolejności sum zwraca inny wynik? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 Zarówno Java, jak i JavaScript zwracają te same wyniki. Rozumiem, że ze względu na sposób, w jaki liczby zmiennoprzecinkowe są reprezentowane w postaci binarnej, niektórych liczb wymiernych ( jak …

294 java javascript floating-point

2

Dlaczego niektóre porównania typu float <liczby całkowite są cztery razy wolniejsze niż inne?

Porównując liczby zmiennoprzecinkowe z liczbami całkowitymi, ocena niektórych par zajmuje znacznie więcej czasu niż innych wartości o podobnej wielkości. Na przykład: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times 0.5387085462592742 Ale jeśli liczba zmiennoprzecinkowa lub liczba całkowita zostanie zmniejszona lub powiększona o określoną wartość, porównanie przebiega …

284 python performance floating-point cpython python-internals

19

Dlaczego liczby dziesiętne nie mogą być przedstawione dokładnie w postaci binarnej?

Wysłano do SO kilka pytań dotyczących reprezentacji zmiennoprzecinkowej. Na przykład liczba dziesiętna 0,1 nie ma dokładnej reprezentacji binarnej, więc użycie operatora == w celu porównania jej z inną liczbą zmiennoprzecinkową jest niebezpieczne. Rozumiem zasady reprezentacji zmiennoprzecinkowej. Nie rozumiem, dlaczego, z matematycznego punktu widzenia, liczby po prawej stronie przecinka są już …

284 math floating-point

3

Zmienne vs dziesiętne w ActiveRecord

Czasami mylą mnie typy danych Activerecord. Err, często. Jednym z moich wiecznych pytań jest, w danym przypadku, Czy powinienem użyć :decimallub :float? Często natrafiam na ten link, ActiveRecord:: dziesiętny vs: zmiennoprzecinkowy? , ale odpowiedzi nie są wystarczająco jasne, aby mieć pewność: Widziałem wiele wątków, w których ludzie zalecają płaskie, aby …

283 ruby-on-rails types floating-point decimal rails-activerecord

6

Dlaczego te liczby nie są równe?

Poniższy kod jest oczywiście nieprawidłowy. Jaki jest problem? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r floating-point floating-accuracy r-faq

14

Generowanie liczb losowych

Jak wygenerować losowe zmiennoprzecinkowe w C ++? Myślałem, że mógłbym wziąć liczbę całkowitą i podzielić ją przez coś, czy to wystarczy?

271 c++ random floating-point

12

Jakie są uzasadnienia dla wszystkich porównań zwracających wartość false dla wartości NaN IEEE754?

Dlaczego porównania wartości NaN zachowują się inaczej niż wszystkie inne wartości? Oznacza to, że wszystkie porównania z operatorami ==, <=,> =, <,> gdzie jedna lub obie wartości to NaN, zwraca false, w przeciwieństwie do zachowania wszystkich innych wartości. Podejrzewam, że upraszcza to w pewien sposób obliczenia numeryczne, ale nie mogłem …

267 floating-point comparison nan ieee-754 iec10967

12

Kiedy powinienem używać podwójnego zamiast dziesiętnego?

Mogę wymienić trzy zalety używania double(lub float) zamiast decimal: Zużywa mniej pamięci. Szybsze, ponieważ operacje matematyczne zmiennoprzecinkowe są natywnie obsługiwane przez procesory. Może reprezentować większy zakres liczb. Ale te zalety wydają się mieć zastosowanie tylko do operacji intensywnie obliczających, takich jak te występujące w oprogramowaniu do modelowania. Oczywiście podwójnych nie …

265 c# types floating-point double decimal

9

Kiedy powinienem używać słowa kluczowego „strictfp” w java?

Sprawdziłem, co to robi, ale czy ktoś rzeczywiście ma przykład, kiedy użyjesz strictfpsłowa kluczowego w Javie? Czy ktoś znalazł zastosowanie do tego? Czy byłyby jakieś skutki uboczne po prostu nałożenie go na wszystkie operacje zmiennoprzecinkowe?

258 java floating-point strictfp

9

Jakiego typu danych MySQL należy użyć dla szerokości i długości geograficznej z 8 miejscami po przecinku?

Pracuję z danymi map i Latitude/Longitudeobejmuje 8 miejsc po przecinku. Na przykład: Latitude 40.71727401 Longitude -74.00898606 Widziałem w dokumencie Google, który używa: lat FLOAT( 10, 6 ) NOT NULL, lng FLOAT( 10, 6 ) NOT NULL Jednak ich miejsca dziesiętne wynoszą tylko 6. Powinienem użyć FLOAT(10, 8)lub istnieje inna metoda …

257 mysql types floating-point

7

Dlaczego podział w Rubim zwraca liczbę całkowitą zamiast wartości dziesiętnej?

Na przykład: 9 / 5 #=> 1 ale się spodziewałem 1.8. Jak uzyskać poprawny wynik dziesiętny (nie całkowity)? Dlaczego w ogóle wraca 1?

256 ruby math floating-point division integer-division

8

Jak przekonwertować ciąg na zmiennoprzecinkowy w JavaScript?

Próbuję przeanalizować dwie wartości z siatki danych. Pola są numeryczne, a gdy mają przecinek (np. 554,20), nie mogę uzyskać liczb po przecinku. Próbowałem parseInti parseFloat. W jaki sposób mogę to zrobić?

255 javascript parsing floating-point

22

Uzyskaj dziesiętną część liczby za pomocą JavaScript

Mam liczby zmiennoprzecinkowe takie jak 3.2i 1.6. Muszę oddzielić liczbę na liczbę całkowitą i dziesiętną. Na przykład wartość 3.2będzie podzielona na dwie liczby, tj. 3I0.2 Uzyskanie części całkowitej jest łatwe: n = Math.floor(n); Ale mam problem z uzyskaniem części dziesiętnej. Próbowałem tego: remainer = n % 2; //obtem a parte …

248 javascript floating-point numbers decimal rounding

Pytania otagowane jako floating-point