Programowanie ieee-754

3

Dlaczego NaN - NaN == 0.0 z kompilatorem Intel C ++?

Powszechnie wiadomo, że NaN rozmnażają się w arytmetyce, ale nie mogłem znaleźć żadnych demonstracji, więc napisałem mały test: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN; float sub1 = 6.0f - qNaN; float sub2 = qNaN - 6.0f; float sub3 …

300 c++ c floating-point ieee-754 icc

12

Jakie są uzasadnienia dla wszystkich porównań zwracających wartość false dla wartości NaN IEEE754?

Dlaczego porównania wartości NaN zachowują się inaczej niż wszystkie inne wartości? Oznacza to, że wszystkie porównania z operatorami ==, <=,> =, <,> gdzie jedna lub obie wartości to NaN, zwraca false, w przeciwieństwie do zachowania wszystkich innych wartości. Podejrzewam, że upraszcza to w pewien sposób obliczenia numeryczne, ale nie mogłem …

267 floating-point comparison nan ieee-754 iec10967

7

największa liczba całkowita, którą można zapisać w podwójnym

Jaka jest największa liczba całkowita „no-floating”, która może być przechowywana w podwójnym typie IEEE 754 bez utraty precyzji?

225 types floating-point double ieee-754

9

Zmienny i podwójny typ danych w Javie

Typ danych zmiennoprzecinkowych to 32-bitowy zmiennoprzecinkowy IEEE 754 o pojedynczej precyzji, a podwójny typ danych to 64-bitowy zmiennoprzecinkowy IEEE 754 o podwójnej precyzji. Co to znaczy? A kiedy powinienem używać float zamiast double lub vice versa?

220 java floating-point double ieee-754

2

Jaka jest pierwsza liczba całkowita, której zmiennoprzecinkowy IEEE 754 nie jest w stanie dokładnie przedstawić?

Dla jasności, jeśli używam języka, który implementuje zmiennoprzecinkowe IEE 754 i oświadczam: float f0 = 0.f; float f1 = 1.f; ... a następnie wydrukuj je z powrotem, otrzymam 0,0000 i 1,0000 - dokładnie. Ale IEEE 754 nie jest w stanie przedstawić wszystkich liczb wzdłuż rzeczywistej linii. Bliskie zeru „luki” są …

162 types floating-point ieee-754

4

Dlaczego wartość zmiennoprzecinkowa 4 * 0,1 wygląda ładnie w Pythonie 3, a 3 * 0,1 nie?

Wiem, że większość liczb dziesiętnych nie ma dokładnej reprezentacji zmiennoprzecinkowej ( czy matematyka zmiennoprzecinkowa jest zepsuta? ). Ale nie rozumiem, dlaczego 4*0.1jest ładnie drukowane 0.4, ale 3*0.1nie jest, gdy obie wartości mają w rzeczywistości brzydkie reprezentacje dziesiętne: >>> 3*0.1 0.30000000000000004 >>> 4*0.1 0.4 >>> from decimal import Decimal >>> Decimal(3*0.1) …

158 python floating-point rounding floating-accuracy ieee-754

10

Czy matematyka zmiennoprzecinkowa jest spójna w C #? Może być?

Nie, to nie jest kolejne pytanie „Dlaczego jest (1 / 3.0) * 3! = 1” . Ostatnio dużo czytałem o zmiennoprzecinkowych; a konkretnie, w jaki sposób te same obliczenia mogą dać różne wyniki w przypadku różnych architektur lub ustawień optymalizacji. Jest to problem z grami wideo, które przechowują powtórki lub …

155 c# .net floating-point precision ieee-754

12

Czy można uzyskać 0, odejmując dwie nierówne liczby zmiennoprzecinkowe?

Czy w poniższym przykładzie można uzyskać dzielenie przez 0 (lub nieskończoność)? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } W normalnych przypadkach oczywiście nie. Ale co jeśli ai bsą bardzo bliskie, może (a-b)skutkować …

131 floating-point double floating-accuracy ieee-754

3

Żonglowanie typami i (ścisłe) porównania większe / mniejsze niż w PHP

PHP słynie z żonglowania typami. Muszę przyznać, że intryguje mnie to i ciężko mi jest znaleźć podstawowe logiczne / fundamentalne rzeczy w porównaniach. Na przykład: Jeśli $a > $bjest prawdą i $b > $cjest prawdą, czy musi to oznaczać, że zawsze$a > $c jest prawdą? Kierując się podstawową logiką, powiedziałbym …

115 php if-statement comparison logic ieee-754

2

Jaka jest różnica między cichym NaN a sygnalizującym NaN?

Czytałem o zmiennoprzecinkowych i rozumiem, że NaN może wynikać z operacji. Ale nie mogę dokładnie zrozumieć, co to są koncepcje. Jaka jest różnica między nimi? Który z nich można stworzyć podczas programowania w C ++? Czy jako programista mógłbym napisać program, który powoduje sNaN?

106 floating-point nan ieee-754

4

Dlaczego (inf + 0j) * 1 jest przeliczane na inf + nanj?

>>> (float('inf')+0j)*1 (inf+nanj) Czemu? Spowodowało to paskudny błąd w moim kodzie. Dlaczego 1tożsamość multiplikatywna nie jest dawaniem (inf + 0j)?

97 python nan ieee-754

3

Co to jest podnormalna liczba zmiennoprzecinkowa?

Strona odniesienia isnormal () mówi: Określa, czy podana liczba zmiennoprzecinkowa arg jest normalna, tj. Nie jest równa zeru, podnormalna, nieskończona ani NaN. Liczba równa zero, nieskończona lub NaN jest jasne, co to znaczy. Ale mówi też, że jest to nienormalne. Kiedy liczba jest niższa od normy?

82 c++ c++11 floating-point ieee-754

3

Czy silniki JS mogą zmieniać bity NaN?

W JavaScript wartość NaN może być reprezentowana wewnętrznie przez szeroki zakres 64-bitowych dubletów. W szczególności każde podwójne z następującą reprezentacją bitową: x111 1111 1111 xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx xxxx Jest interpretowany jako NaN. Moje pytanie brzmi: załóżmy, że rzutuję dwa 32-bitowe odcienie …

12 javascript ieee-754

Pytania otagowane jako ieee-754