Brak odrzucenia hipotezy zerowej jest dowodem na to, że hipoteza zerowa jest prawdziwa, ale może nie być szczególnie dobrym dowodem iz pewnością nie dowodzi hipotezy zerowej.
Weźmy krótki objazd. Zastanów się przez chwilę nad starym kliszem:
Brak dowodów nie jest dowodem nieobecności.
Bez względu na popularność to stwierdzenie jest nonsensowne. Jeśli czegoś szukasz i nie możesz go znaleźć, jest to absolutny dowód, że go nie ma. To, jak dobry jest ten dowód, zależy od dokładności wyszukiwania. Pobieżne poszukiwanie dostarcza słabych dowodów; wyczerpujące poszukiwanie dostarcza mocnych dowodów.
Wróćmy do testowania hipotez. Kiedy przeprowadzasz test hipotez, szukasz dowodów na to, że hipoteza zerowa nie jest prawdziwa. Jeśli go nie znajdziesz, to z pewnością jest to dowód, że hipoteza zerowa jest prawdziwa, ale jak silny jest ten dowód? Aby to wiedzieć, musisz wiedzieć, jak prawdopodobne jest, że dowody, które skłoniłyby cię do odrzucenia hipotezy zerowej, mogły umknąć twojemu poszukiwaniu. Jakie jest prawdopodobieństwo fałszywie ujemnego wyniku testu? Jest to związane z mocą, , testu (konkretnie jest to uzupełnienie, 1- .)βββ
Teraz moc testu, a zatem współczynnik fałszywie ujemnych, zwykle zależy od wielkości efektu, którego szukasz. Duże efekty są łatwiejsze do wykrycia niż małe. Dlatego nie ma pojedynczego dla eksperymentu, a zatem nie ma ostatecznej odpowiedzi na pytanie, jak silny jest dowód na hipotezę zerową. Innymi słowy, zawsze istnieje pewien rozmiar efektu wystarczająco mały, aby nie wykluczył go eksperyment.β
Odtąd są dwa sposoby postępowania. Czasami wiesz, że nie zależy ci na wielkości efektu mniejszej niż jakiś próg. W takim przypadku prawdopodobnie powinieneś przeformułować eksperyment tak, aby hipoteza zerowa była taka, że efekt jest powyżej tego progu, a następnie przetestować alternatywną hipotezę, że efekt jest poniżej progu. Alternatywnie, możesz użyć swoich wyników, aby ustalić granice wiarygodnego rozmiaru efektu. Wniosek jest taki, że wielkość efektu leży w pewnym przedziale, z pewnym prawdopodobieństwem. Podejście to jest tylko mały krok od leczenia bayesowskiego, o którym możesz chcieć dowiedzieć się więcej, jeśli często znajdziesz się w takiej sytuacji.
Jest miła odpowiedź na powiązane pytanie, które dotyczy dowodów nieobecności , które mogą okazać się przydatne.