Pytania otagowane jako precision

Pytania dotyczące dokładności numerycznej w programowaniu. Aby uzyskać dokładność klasyfikacji, użyj znacznika [precyzyjne przywracanie].

3
Kontrolowanie liczby cyfr dziesiętnych w wydruku w R
W R jest opcja uzyskania kontroli nad wyświetlaniem cyfr. Na przykład: options(digits=10) ma podawać wyniki obliczeń w 10 cyfrach do końca sesji R. W pliku pomocy R, definicja parametru cyfry jest następująca: cyfry: kontroluje liczbę cyfr do wydrukowania podczas drukowania wartości liczbowych. To tylko sugestia. Prawidłowe wartości to 1 ... …
11
W jakiej kolejności należy dodawać liczby zmiennoprzecinkowe, aby uzyskać jak najdokładniejszy wynik?
To było pytanie, które zadałem mi na ostatnim wywiadzie i chcę wiedzieć (tak naprawdę nie pamiętam teorii analizy numerycznej, więc proszę o pomoc :) Jeśli mamy jakąś funkcję, która gromadzi liczby zmiennoprzecinkowe: std::accumulate(v.begin(), v.end(), 0.0); vjest std::vector<float>na przykład. Czy lepiej byłoby posortować te liczby przed ich zgromadzeniem? Która kolejność daje …
9
Czy sprawdzanie wartości zmiennoprzecinkowych pod kątem równości do 0 jest bezpieczne?
Wiem, że normalnie nie można polegać na równości między wartościami typu podwójnego lub dziesiętnego, ale zastanawiam się, czy 0 to przypadek specjalny. Chociaż rozumiem niedokładności między 0,00000000000001 a 0,00000000000002, samo 0 wydaje się dość trudne do zepsucia, ponieważ to po prostu nic. Jeśli nic nie jesteś dokładny, to już nie …
7
C # DateTime.Now precyzja
Właśnie napotkałem nieoczekiwane zachowanie z DateTime.UtcNow podczas wykonywania niektórych testów jednostkowych. Wydaje się, że gdy wywołujesz DateTime.Now/UtcNow w krótkich odstępach czasu, wydaje się, że zwraca tę samą wartość przez dłuższy niż oczekiwany przedział czasu, zamiast przechwytywać dokładniejsze przyrosty milisekund. Wiem, że istnieje klasa Stopwatch, która lepiej nadawałaby się do wykonywania …
6
Ile jest liczb podwójnych między 0,0 a 1,0?
To jest coś, o czym myślę od lat, ale nigdy wcześniej nie spytałem. Wiele (pseudo) generatorów liczb losowych generuje liczbę losową z zakresu od 0,0 do 1,0. Z matematycznego doublepunktu widzenia w tym zakresie są nieskończone liczby, ale jest to liczba zmiennoprzecinkowa, a zatem ma skończoną precyzję. Oto pytania: Ile …
11
PHP7.1 json_encode () Problem zmiennoprzecinkowy
To nie jest pytanie, ponieważ należy bardziej uważać. Zaktualizowałem aplikację, która używa json_encode()PHP7.1.1 i zauważyłem problem ze zmienianiem liczb zmiennoprzecinkowych, aby czasami wydłużały 17 cyfr. Zgodnie z dokumentacją, PHP 7.1.x zaczęło używać serialize_precisionzamiast precyzji przy kodowaniu podwójnych wartości. Domyślam się, że spowodowało to przykładową wartość 472,185 zostać 472.18500000000006 po przejściu …
92 php  json  precision  php-7.1 
2
Dlaczego 199,96 - 0 = 200 w SQL?
Niektórzy klienci otrzymują dziwne rachunki. Udało mi się wyodrębnić podstawowy problem: SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * CAST(199.96 AS DECIMAL(19, 4)))) -- 200 what the? SELECT 199.96 - (0.0 * FLOOR(1.0 * CAST(199.96 AS DECIMAL(19, 4)))) -- 199.96 SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, …
2
Jaki jest prawidłowy / standardowy sposób sprawdzenia, czy różnica jest mniejsza niż precyzja maszyny?
Często kończę w sytuacjach, w których konieczne jest sprawdzenie, czy uzyskana różnica jest wyższa niż precyzja maszyny. Wygląda na to, w tym celu R ma zmienną poręczny: .Machine$double.eps. Jednak po przejściu do kodu źródłowego R w celu uzyskania wskazówek dotyczących korzystania z tej wartości widzę wiele różnych wzorców. Przykłady Oto …
1
Dlaczego np.dot jest nieprecyzyjny? (tablice n-dim)
Załóżmy, że bierzemy np.dotdwie 'float32'tablice 2D: res = np.dot(a, b) # see CASE 1 print(list(res[0])) # list shows more digits [-0.90448684, -1.1708503, 0.907136, 3.5594249, 1.1374011, -1.3826287] Liczby. Z wyjątkiem, że mogą zmienić: PRZYPADEK 1 : plastereka np.random.seed(1) a = np.random.randn(9, 6).astype('float32') b = np.random.randn(6, 6).astype('float32') for i in range(1, len(a)): …
15 python  c  arrays  numpy  precision 
5
Wydajna stabilna suma uporządkowanych liczb
Mam dość długą listę liczb zmiennoprzecinkowych dodatnich ( std::vector<float>rozmiar ~ 1000). Liczby są sortowane według malejącej kolejności. Jeśli sumuję je zgodnie z kolejnością: for (auto v : vec) { sum += v; } Myślę, że mogę mieć problem ze stabilnością numeryczną, ponieważ blisko końca wektora sumbędzie znacznie większy niż v. …
Korzystając z naszej strony potwierdzasz, że przeczytałeś(-aś) i rozumiesz nasze zasady używania plików cookie i zasady ochrony prywatności.
Licensed under cc by-sa 3.0 with attribution required.