Chcę azostać zaokrąglony do 13,95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Ta roundfunkcja nie działa w oczekiwany sposób.
Czytałem o różnicy między podwójną precyzją a pojedynczą precyzją. Jednak w większości przypadków floati doublewydają się być wymienne, tj. Użycie jednego lub drugiego nie wydaje się wpływać na wyniki. Czy to naprawdę tak jest? Kiedy zmiennoprzecinkowe i podwajalne są wymienne? Jakie są między nimi różnice?
Więc otrzymałem odpowiedź na moje ostatnie pytanie (nie wiem, dlaczego o tym nie pomyślałem). Drukowałem doubleużycie, coutktóre zaokrągliło się, gdy się nie spodziewałem. Jak mogę sprawić, by coutwydruk był w doublepełni precyzyjny?
Chciałem wyświetlić liczbę z dokładnością do 2 miejsc po przecinku. Myślałem, że mogę użyć toPrecision(2)w JavaScript. Jednak jeśli numer jest 0.05, dostaję 0.0500. Wolałbym, żeby pozostało tak samo. Zobacz to na JSbin . Jak najlepiej to zrobić? Mogę pomyśleć o kodowaniu kilku rozwiązań, ale wyobrażam sobie (mam nadzieję), że coś …
Mam w bazie danych następującą kolumnę: dziesiętny (5,2) Jak to interpretować? Zgodnie z właściwościami kolumny wyświetlanymi w SQL Server Management Studio widzę, że oznacza to: dziesiętny (precyzja numeryczna, skala numeryczna). Co dokładnie oznacza precyzja i skala? Łatwo byłoby zinterpretować to jako miejsce dziesiętne z 5 cyframi i dwoma miejscami po …
Jak dokładnie skonstruować znacznik czasu rzeczywistego z dokładnością do milisekund? Potrzebuję czegoś takiego jak 16.4.2013 9: 48: 00: 123. czy to możliwe? Mam aplikację, w której próbkuję wartości 10 razy na sekundę i muszę pokazać je na wykresie.
Dlaczego niektóre liczby tracą dokładność, gdy są przechowywane jako liczby zmiennoprzecinkowe? Na przykład liczbę dziesiętną 9.2można wyrazić dokładnie jako stosunek dwóch liczb całkowitych dziesiętnych ( 92/10), z których oba można wyrazić dokładnie w postaci binarnej ( 0b1011100/0b1010). Jednak ten sam współczynnik zapisany jako liczba zmiennoprzecinkowa nigdy nie jest dokładnie równy …
Ostatnio musiałem przekształcić tekst podwójny w szereg, a potem go odzyskać. Wartość wydaje się nie być równoważna: double d1 = 0.84551240822557006; string s = d1.ToString("R"); double d2 = double.Parse(s); bool s1 = d1 == d2; // -> s1 is False Ale zgodnie z MSDN: Standardowe ciągi formatu liczbowego opcja „R” …
Jaka jest różnica między operacją zmiennoprzecinkową o pojedynczej precyzji a operacją zmiennoprzecinkową o podwójnej precyzji? Szczególnie interesują mnie kwestie praktyczne związane z konsolami do gier wideo. Na przykład, czy Nintendo 64 ma procesor 64-bitowy, a jeśli tak, czy to znaczy, że jest zdolny do wykonywania operacji zmiennoprzecinkowych o podwójnej precyzji? …
Nie, to nie jest kolejne pytanie „Dlaczego jest (1 / 3.0) * 3! = 1” . Ostatnio dużo czytałem o zmiennoprzecinkowych; a konkretnie, w jaki sposób te same obliczenia mogą dać różne wyniki w przypadku różnych architektur lub ustawień optymalizacji. Jest to problem z grami wideo, które przechowują powtórki lub …
Wiem, że 0.1liczby dziesiętnej nie można dokładnie przedstawić za pomocą skończonej liczby binarnej ( wyjaśnienie ), więc double n = 0.1straci pewną precyzję i nie będzie dokładnie 0.1. Z drugiej strony 0.5może być reprezentowany właśnie dlatego, że jest 0.5 = 1/2 = 0.1b. Powiedziawszy, że jest zrozumiałe, 0.1 trzykrotne dodanie …
public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Powyższy kod drukuje: 11.399999999999 Jak mogę to po prostu wydrukować (lub móc go używać jako) 11.4?
Biorąc pod uwagę wartość podwójną, chcę zaokrąglić ją do określonej liczby dokładnych punktów po przecinku , podobnie jak w funkcji round () w PHP. Najbliższą rzeczą, jaką mogę znaleźć w dokumentach Dart, jest double.toStringAsPrecision (), ale nie jest to do końca to, czego potrzebuję, ponieważ zawiera cyfry przed kropką dziesiętną …
Jestem nowy w JavaScript i właśnie odkryłem toFixed()i toPrecision()zaokrąglałem liczby. Jednak nie mogę dowiedzieć się, jaka jest różnica między nimi. Jaka jest różnica między number.toFixed()i number.toPrecision()?
Używamy plików cookie i innych technologii śledzenia w celu poprawy komfortu przeglądania naszej witryny, aby wyświetlać spersonalizowane treści i ukierunkowane reklamy, analizować ruch w naszej witrynie, i zrozumieć, skąd pochodzą nasi goście.
Kontynuując, wyrażasz zgodę na korzystanie z plików cookie i innych technologii śledzenia oraz potwierdzasz, że masz co najmniej 16 lat lub zgodę rodzica lub opiekuna.