Programowanie floating-point

30

Czy matematyka zmiennoprzecinkowa jest zepsuta?

Przekaż opinię na temat Przepełnienia stosu w poprzedniej wersji : Powrót na górę Przekaż opinię na temat Przepełnienia stosu : Вычисления на числах с плавающей точкой не работают Rozważ następujący kod: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Dlaczego zdarzają się te nieścisłości?

2981 math language-agnostic floating-point floating-accuracy

27

Jak parsować ciąg na zmiennoprzecinkowe lub int?

W Pythonie, w jaki sposób można analizować ciąg liczbowy jak "545.2222"do odpowiadającej jej wartości float 545.2222? Lub parsować ciąg "31"do liczby całkowitej 31? Chcę tylko wiedzieć, jak parsować zmiennoprzecinkowe str do floati (osobno) int str do int.

2249 python parsing floating-point type-conversion integer

12

Dlaczego GCC nie optymalizuje * a * a * a * a * a do (a * a * a) * (a * a * a)?

Robię optymalizację numeryczną w aplikacji naukowej. Zauważyłem tylko, że GCC zoptymalizuje wywołanie pow(a,2), kompilując je a*a, ale wywołanie pow(a,6)nie jest zoptymalizowane i faktycznie wywoła funkcję biblioteki pow, co znacznie spowalnia działanie. (Natomiast kompilator Intel C ++ , wykonywalny icc, wyeliminuje wywołanie biblioteki pow(a,6)). Jestem ciekaw co o to, że kiedy …

2120 gcc assembly floating-point compiler-optimization fast-math

18

Różnica między dziesiętną, zmiennoprzecinkową i podwójną w .NET?

Jaka jest różnica między decimal, floata doublew .NET? Kiedy ktoś użyłby jednego z nich?

2085 .net floating-point double decimal

25

Ograniczenie unosi się do dwóch miejsc po przecinku

Chcę azostać zaokrąglony do 13,95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Ta roundfunkcja nie działa w oczekiwany sposób.

1692 python floating-point rounding precision

30

Jak sprawdzić, czy ciąg znaków jest liczbą (liczbą zmiennoprzecinkową)?

Jaki jest najlepszy możliwy sposób sprawdzenia, czy ciąg może być reprezentowany jako liczba w Pythonie? Obecnie posiadam funkcję: def is_number(s): try: float(s) return True except ValueError: return False Co nie tylko jest brzydkie i powolne, wydaje się niezgrabne. Nie znalazłem jednak lepszej metody, ponieważ wywołanie floatfunkcji głównej jest jeszcze gorsze.

1606 python casting floating-point type-conversion

5

Dlaczego zmiana 0,1f na 0 spowalnia działanie 10-krotnie?

Dlaczego ten fragment kodu const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for (int i …

1527 c++ performance visual-studio-2010 compilation floating-point

15

Dlaczego nie użyć Double lub Float do reprezentowania waluty?

Zawsze mówiono mi, żebym nigdy nie reprezentował pieniędzy doubleani floattypów, i tym razem zadaję ci pytanie: dlaczego? Jestem pewien, że istnieje bardzo dobry powód, po prostu nie wiem co to jest.

938 floating-point currency

7

Czy w HTML5 jest typ wprowadzania zmiennoprzecinkowego?

Według html5.org atrybut wartości typu wejściowego „liczba”, jeśli jest określony i nie jest pusty, musi mieć wartość, która jest prawidłową liczbą zmiennoprzecinkową. ” Jest to jednak po prostu (w każdym razie najnowsza wersja Chrome) kontrola „zaktualizowana” z liczbami całkowitymi, a nie zmiennoprzecinkowa: <input type="number" id="totalAmt"></input> Uruchom fragment koduUkryj wynikiRozwiń fragment …

816 html input floating-point

30

Sformatuj liczbę, aby zawsze pokazywać 2 miejsca dziesiętne

Chciałbym sformatować moje liczby, aby zawsze wyświetlały 2 miejsca po przecinku, w stosownych przypadkach zaokrąglając. Przykłady: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Korzystałem z tego: parseFloat(num).toFixed(2); Ale wyświetla się raczej 1jako .11.00

781 javascript floating-point number-formatting

30

Jak użyć wartości kroku dziesiętnego zakresu ()?

Czy istnieje sposób na krok od 0 do 1 o 0,1? Myślałem, że mogę to zrobić w następujący sposób, ale się nie udało: for i in range(0, 1, 0.1): print i Zamiast tego mówi, że argument kroku nie może wynosić zero, czego się nie spodziewałem.

742 python floating-point range

11

Jak wymusić podział na zmiennoprzecinkowy? Podział zaokrągla w dół do 0?

Mam dwie wartości całkowite ai b, ale potrzebuję ich stosunku w liczbach zmiennoprzecinkowych. Wiem o tym a < bi chcę obliczyć a / b, więc jeśli użyję dzielenia liczb całkowitych, zawsze otrzymam 0 z resztą a. Jak mogę zmusić się cdo bycia liczbą zmiennoprzecinkową w Pythonie poniżej? c = a …

721 python floating-point integer division python-2.x

14

Konwertuj Dziesiętnie na Podwój

Chcę użyć a, Track-Baraby zmienić Formkrycie a. To jest mój kod: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Podczas kompilowania aplikacji pojawia się następujący błąd: Nie można niejawnie przekonwertować typu decimalnadouble Próbowałem, używając transi doubleale wtedy Controlnie działa. Ten kod działał dobrze w poprzednim projekcie VB.NET.

672 c# floating-point type-conversion double decimal

30

Jak radzić sobie z precyzją liczb zmiennoprzecinkowych w JavaScript?

Mam następujący fałszywy skrypt testowy: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Uruchom fragment koduUkryj wynikiRozwiń fragment kodu Spowoduje to wydrukowanie wyniku, 0.020000000000000004podczas gdy powinien po prostu wydrukować 0.02(jeśli korzystasz z kalkulatora). O ile rozumiem, wynika to z błędów w precyzji mnożenia zmiennoprzecinkowego. Czy ktoś …

617 javascript floating-point

5

Dlaczego Math.round (0.4999999999999999994) zwraca 1?

W poniższym programie widać, że każda wartość jest nieco mniejsza niż .5zaokrąglona w dół, z wyjątkiem 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + Math.round(x)); l--; } …

567 java floating-point double rounding

Pytania otagowane jako floating-point