Użycie formuły pitagorejskiej na pozycjach podanych w szerokości i długości geograficznej ma tak mały sens, jak, powiedzmy, obliczenie powierzchni koła za pomocą wzoru na kwadrat: chociaż daje liczbę, nie ma powodu, aby przypuszczać, że powinna działać.
Chociaż w małych skalach każda gładka powierzchnia wygląda jak płaszczyzna, dokładność Pitagorasa zależy od użytych współrzędnych . Gdy te współrzędne to szerokość i długość geograficzna na kuli (lub elipsoidzie), możemy się tego spodziewać
Odległości wzdłuż linii długości geograficznej będą dość dokładne.
Odległości wzdłuż równika będą dość dokładne.
Wszystkie inne odległości będą błędne, w przybliżeniu proporcjonalne do różnic szerokości i długości geograficznej.
Błąd zależy od punktu początkowego i końcowego obliczeń odległości. Ponieważ jednak zarówno kula, jak i elipsoida mają okrągłą symetrię wokół osi, błąd zależy tylko od różnicy długości, więc aby zbadać ten błąd, równie dobrze możemy przyjąć punkt początkowy na południku zerowym. Ponieważ zarówno kula, jak i elipsoida są symetryczne w odbiciu północ-południe, musimy jedynie badać punkty początkowe na półkuli południowej. Dla każdego takiego punktu możemy narysować mapę konturową błędu względnego, równą [obliczeniom pitagorejskim] / [rzeczywistej odległości].
Formuła pitagorejska, wykorzystująca średni promień ziemi, jest następująca
Pythagorean distance = 6371000. * Sqrt[dx^2 + dy^2]] * pi / 180 meters
gdzie dx to różnica w długościach geograficznych, a dy to różnica w szerokościach geograficznych, zarówno w stopniach. (Różnica w wartościach długości geograficznej jest zmniejszona modulo 360, aby podać prawidłową wartość dx podczas przekraczania antimeridianu; nie zrobienie tego spowodowałoby sztucznie duże błędy, które nie mówią nam nic o samej formule pitagorejskiej.)
Poniższe wykresy pokazują błąd względny w porównaniu z prawidłową odległością na elipsoidzie WGS 84 dla szerokości geograficznych od -70 do 0 w krokach co 10 stopni. Współrzędna pozioma to różnica długości i współrzędna pionowa to szerokość geograficzna miejsca docelowego. Jasne obszary mają stosunkowo mały błąd: linie konturu mają 1, 1,01, 1,02, 1,05, 1,1, 1,2, 1,5, 2 itd. (Czyste białe obszary w rogach to miejsca, w których błąd wykracza poza zakres tych konturów .) Czerwone kropki wskazują punkt początkowy.
Pionowe białe pasy świadczą o poprawności oczekiwań (1): odległości pitagorejskie są dokładne, gdy występuje niewielka różnica długości. Poziome białe pasy na niskich szerokościach geograficznych potwierdzają oczekiwanie (2): w pobliżu równika odległości w poziomie są dość dokładne. W przeciwnym razie, jak pokazują rozległe ciemniejsze regiony, na wszystkich innych odległościach formuła pitagorejska jest zła.
Możemy dokonać oszacowań ilościowych maksimumbłąd osiągnięty dla par pobliskich punktów (w odległości, powiedzmy, kilkuset kilometrów od siebie). Skala - przy użyciu odpowiedniej wartości dla promienia - jest prawdziwa wzdłuż południka, ale wzdłuż koła szerokości geograficznej błądzi w przybliżeniu o sieczę szerokości geograficznej. Na przykład na szerokości 40 stopni secans wynosi 1,31, co oznacza, że formuła pitagorejska da odległości o około 31% za duże w kierunku wschód-zachód. (Jest to widoczne na prawym górnym wykresie konturowym dla punktu początkowego na -40 stopni szerokości geograficznej, gdzie region bezpośrednio na wschód od zachodniej kropki czerwonej kropki leży między konturami 1,2 i 1,5). Krótkie odległości we wszystkich innych kierunkach będą wynosić zbyt duża o jakąś kwotę między 0% a 31%; dłuższe odległości mogą być nawet większe (jak pokazują wykresy konturowe).