Pytania otagowane jako floating-point

Liczby zmiennoprzecinkowe są przybliżeniami liczb rzeczywistych, które mogą reprezentować większe zakresy niż liczby całkowite, ale wykorzystują tę samą ilość pamięci, kosztem mniejszej precyzji. Jeśli Twoje pytanie dotyczy drobnych błędów arytmetycznych (np. Dlaczego 0,2 + 0,1 równa się 0,300000001?) Lub błędów konwersji dziesiętnej, przed opublikowaniem przeczytaj stronę „Informacje”, do której link znajduje się poniżej.

10
Dodaj wartość zmiennoprzecinkową do zasobów / wartości Androida
Próbuję dodać trochę miejsca między wierszami do moich TextView, używając android:lineSpacingMultiplier z dokumentacji : Dodatkowe odstępy między wierszami tekstu jako mnożnik. Musi być wartością zmiennoprzecinkową, na przykład „1.2”. Ponieważ używam tego w kilku różnych TextViews, chciałbym dodać globalny wymiar / wartość do moich zasobów, ale nie wiem, którego znacznika użyć, …
18
Jak korzystać z podziału zmiennoprzecinkowego w bash?
Próbuję podzielić dwie szerokości obrazu w skrypcie Bash, ale bash daje mi 0w rezultacie: RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) Przestudiowałem przewodnik po Bash i wiem, że powinienem go użyć bc we wszystkich przykładach w Internecie, których używają bc. W echostarałem się umieścić tę samą rzecz w moim SCALE, ale to nie działa. Oto przykład, …
16
Python JSON serializuje obiekt dziesiętny
Mam Decimal('3.9')jako część obiektu i chcę zakodować to w ciągu JSON, który powinien wyglądać {'x': 3.9}. Nie dbam o precyzję po stronie klienta, więc float jest w porządku. Czy istnieje dobry sposób na serializację tego? JSONDecoder nie akceptuje obiektów dziesiętnych, a wcześniejsza konwersja do {'x': 3.8999999999999999}liczby zmiennoprzecinkowej daje błędne wyniki …
21
round () dla float w C ++
Potrzebuję prostej funkcji zaokrąglania zmiennoprzecinkowego, a zatem: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 Potrafię znaleźć ceil()i floor()w matematyce. H - ale nie round(). Czy jest obecny w standardowej bibliotece C ++ pod inną nazwą, czy go brakuje?
10
Sformatuj zmiennoprzecinkowe do n miejsc dziesiętnych
Muszę sformatować liczbę zmiennoprzecinkową do „n” miejsc dziesiętnych. próbował BigDecimal, ale zwracana wartość jest nieprawidłowa ... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new BigDecimal(pNumero); value = value.setScale(pCantidadDecimales, RoundingMode.HALF_EVEN); // here the value is correct (625.30) …
9
Zmienny i podwójny typ danych w Javie
Typ danych zmiennoprzecinkowych to 32-bitowy zmiennoprzecinkowy IEEE 754 o pojedynczej precyzji, a podwójny typ danych to 64-bitowy zmiennoprzecinkowy IEEE 754 o podwójnej precyzji. Co to znaczy? A kiedy powinienem używać float zamiast double lub vice versa?
7
Formatowanie liczby zmiennoprzecinkowej do 2 miejsc po przecinku
Obecnie buduję moduł sprzedaży dla witryny klienta. Do tej pory mam cenę do obliczenia idealnie, ale utknąłem w formatowaniu wyniku do 2 miejsc po przecinku. Obecnie wywołuję to w zmiennej, dzięki czemu mogę powiązać wyniki z widokiem listy. Sale = float.Parse(((x.Sale_Price - (x.Sale_Price * (x.Discount_Price / 100))).ToString())), Czy ktoś może …
6
Dlaczego liczby zmiennoprzecinkowe są niedokładne?
Dlaczego niektóre liczby tracą dokładność, gdy są przechowywane jako liczby zmiennoprzecinkowe? Na przykład liczbę dziesiętną 9.2można wyrazić dokładnie jako stosunek dwóch liczb całkowitych dziesiętnych ( 92/10), z których oba można wyrazić dokładnie w postaci binarnej ( 0b1011100/0b1010). Jednak ten sam współczynnik zapisany jako liczba zmiennoprzecinkowa nigdy nie jest dokładnie równy …
6
Używanie bitowego OR 0 do wpisywania liczby
Mój kolega natknął się na metodę wyprowadzania liczb zmiennoprzecinkowych za pomocą bitów lub: var a = 13.6 | 0; //a == 13 Rozmawialiśmy o tym i zastanawialiśmy się nad kilkoma rzeczami. Jak to działa? Nasza teoria była taka, że ​​użycie takiego operatora rzutuje liczbę na liczbę całkowitą, usuwając w ten …
Korzystając z naszej strony potwierdzasz, że przeczytałeś(-aś) i rozumiesz nasze zasady używania plików cookie i zasady ochrony prywatności.
Licensed under cc by-sa 3.0 with attribution required.