Jak uzyskać funkcję prawdopodobieństwa dla rozkładu dwumianowego do oszacowania parametru?

Według Miller i Freund's Probability and Statistics for Engineers, 8ed (str. 217–218), funkcję prawdopodobieństwa, która ma zostać zmaksymalizowana dla rozkładu dwumianowego (próby Bernoulliego) podano jako

$L(p) = \prod_{i=1}^np^{x_i}(1-p)^{1-x_i}$

Jak dojść do tego równania? Wydaje mi się dość jasne w odniesieniu do innych dystrybucji, Poissona i Gaussa;

$L(\theta) = \prod_{i=1}^n \text{PDF or PMF of dist.}$

Ale ten dla dwumianu jest tylko trochę inny. Mówiąc wprost, jak to zrobiło

$nC_x~p^x(1-p)^{n-x}$

zostać

$p^{x_i}(1-p)^{1-x_i}$

w powyższej funkcji prawdopodobieństwa?

W oszacowaniu maksymalnego prawdopodobieństwa próbujesz zmaksymalizować ; jednakże maksymalizacja tego jest równoważna maksymalizacji dla ustalonego . p x ( 1 - p ) n - x$nC_x~p^x(1-p)^{n-x}$$p^x(1-p)^{n-x}$$x$

W rzeczywistości prawdopodobieństwo gaussa i poissona również nie obejmuje ich wiodących stałych, więc ten przypadek jest taki sam jak te w

---

Adresowanie PO Komentarz

Oto trochę więcej szczegółów:

Po pierwsze, jest całkowitą liczbą sukcesów, podczas gdy jest pojedynczą próbą (0 lub 1). W związku z tym:$x$$x_i$

$$\prod_{i=1}^np^{x_i}(1-p)^{1-x_i} = p^{\sum_1^n x_i}(1-p)^{\sum_1^n1-x_i} = p^{x}(1-p)^{n-x}$$

To pokazuje, jak uzyskać czynniki prawdopodobieństwa (wykonując powyższe kroki wstecz).

Dlaczego stała odchodzi? Nieformalnie i to, co większość ludzi robi (włączając mnie), po prostu zauważa, że ​​stała wiodąca nie wpływa na wartość która maksymalizuje prawdopodobieństwo, więc po prostu ją ignorujemy (skutecznie ustawiamy ją na 1).$p$

Możemy to wywnioskować, biorąc log funkcji prawdopodobieństwa i stwierdzając, gdzie jego pochodna wynosi zero:

$$\ln\left(nC_x~p^x(1-p)^{n-x}\right) = \ln(nC_x)+x\ln(p)+(n-x)\ln(1-p)$$

Weź pochodną wrt i ustaw na :$p$$0$

$$\frac{d}{dp}\ln(nC_x)+x\ln(p)+(n-x)\ln(1-p) = \frac{x}{p}- \frac{n-x}{1-p} = 0$$

$$\implies \frac{n}{x} = \frac{1}{p} \implies p = \frac{x}{n}$$

Zauważ, że stała wiodąca odpadła z obliczeń MLE.

Mówiąc bardziej filozoficznie, prawdopodobieństwo ma znaczenie jedynie dla wnioskowania do stałej tak że jeśli mamy dwie funkcje prawdopodobieństwa i , to są one wnioskowo równoważne. Nazywa się to prawem prawdopodobieństwa . Dlatego, jeśli porównujemy różne wartości przy użyciu tej samej funkcji prawdopodobieństwa, termin wiodący staje się nieistotny.L 1 = k L 2$L_1,L_2$$L_1=kL_2$$p$

Na poziomie praktycznym wnioskowanie przy użyciu funkcji wiarygodności opiera się na współczynniku wiarygodności, a nie na bezwzględnej wartości prawdopodobieństwa. Wynika to z asymptotycznej teorii ilorazów prawdopodobieństwa (które są asymptotycznie chi-kwadrat - z zastrzeżeniem pewnych warunków prawidłowości, które są często odpowiednie). Preferowane są testy współczynnika wiarygodności ze względu na lemat Neymana-Pearsona . Dlatego, gdy spróbujemy przetestować dwie proste hipotezy, weźmiemy stosunek i wspólny wiodący czynnik zostanie anulowany.

UWAGA: To będzie nie stanie, jeśli zostały porównanie dwóch różnych modeli, powiedzmy dwumianowy i Poissona. W takim przypadku stałe są ważne.

Z powyższych powodów pierwsza (nieistotność znalezienia maksymalizatora L) najbardziej bezpośrednio odpowiada na twoje pytanie.

xi w produkcie odnosi się do każdej indywidualnej próby. Dla każdej pojedynczej próby xi może wynosić 0 lub 1, a n jest zawsze równe 1. Zatem, w sposób trywialny, współczynnik dwumianowy będzie równy 1. Stąd we wzorze produktu dla prawdopodobieństwa iloczyn współczynników dwumianowych wyniesie 1, a zatem we wzorze nie ma nCx. Zrealizowałem to, pracując nad tym krok po kroku :) (Przepraszam za formatowanie, nie przywykłem do odpowiadania na wyrażenia matematyczne w odpowiedziach ... jeszcze :))