Inżynieria oprogramowania arithmetic

5

Czy komputer spróbuje podzielić przez zero?

Wszyscy wiemy, że 0/0jest Undefinedi zwraca błąd, gdybym włożył go do kalkulatora, a gdybym stworzył program (przynajmniej w C), system operacyjny zakończyłby go, gdy spróbuję podzielić przez zero. Zastanawiam się jednak, czy komputer nawet próbuje podzielić przez zero , czy też po prostu ma „wbudowaną ochronę”, więc kiedy „widzi” 0/0, …

59 math error-handling arithmetic

3

Czy jest coś wyjątkowego w numerze 65535?

2¹⁶-1 i 2⁵ = 2⁵ (lub? Oczywiście?) Deweloper zapytał mnie dzisiaj, co to jest bitowe 65535 i 32, tj. 2¹⁶-1 i 2⁵ =? Początkowo myślałem spontanicznie 32, ale wydawało mi się to łatwe, po czym myślałem przez kilka minut, a potem odpowiedziałem 32. 32 wydaje się być prawidłową odpowiedzią, ale …

11 numbers binary bitwise-operators 32-bit arithmetic

2

Nazwa okrągłego problemu odliczania - i rozwiązania algorytmiczne?

Dla nie-Brytyjczyków na widowni jest odcinek teleturnieju w ciągu dnia, w którym zawodnicy mają zestaw 6 liczb i losowo generowaną liczbę docelową. Muszą osiągnąć liczbę docelową przy użyciu dowolnej (ale niekoniecznie wszystkich) z 6 liczb przy użyciu tylko operatorów arytmetycznych. Wszystkie obliczenia muszą dawać dodatnie liczby całkowite. Przykład: Youtube: Countdown …

10 algorithms arithmetic

3

Jakie uzasadnienie stosuje się, gdy projektanci języków programowania decydują, jaki znak ma wynik działania modulo?

Przechodząc przez operację Modulo (aleję, którą wszedłem, badając różnicę między remimod ) natknąłem się na: W matematyce wynikiem operacji modulo jest pozostała część podziału euklidesowego. Możliwe są jednak inne konwencje. Komputery i kalkulatory mają różne sposoby przechowywania i reprezentowania liczb; dlatego ich definicja działania modulo zależy od języka programowania i …

9 programming-languages language-design math arithmetic design-decisions

Pytania otagowane jako arithmetic