Kombinacja liniowa dwóch zależnych wielowymiarowych normalnych zmiennych losowych

Załóżmy, że mamy dwa wektory zmiennych losowych, oba są normalne, tj. i . Interesuje nas rozkład ich kombinacji liniowej , gdzie i są macierzami, to wektor. Jeśli i są niezależne, . Pytanie dotyczy przypadku zależnego, zakładając, że znamy korelację dowolnej pary . Dziękuję Ci. $X \sim N(\mu_X, \Sigma_X)$ $Y \sim N(\mu_Y, \Sigma_Y)$ $Z = A X + B Y + C$ $A$ $B$ $C$ $X$ $Y$ $Z \sim N(A \mu_X + B \mu_Y + C, A \Sigma_X A^T + B \Sigma_Y B^T)$ $(X_i, Y_i)$

Najlepsze życzenia, Ivan

probability normal-distribution multinomial

— Ivan
źródło

Odpowiedzi:

W takim przypadku musisz napisać (z nadzieją wyraźnymi notacjami) ( edytowano: przyjmując ) Następnie i tj.

(\begin{matrix} X \\ Y \end{matrix}) \sim N [(\begin{matrix} μ_{X} \\ μ_{Y} \end{matrix}), Σ_{X, Y}]

$\left(\begin{matrix}X\\Y \end{matrix}\right) \sim \mathcal{N}\left[ \left(\begin{matrix}\mu_X\\\mu_Y\end{matrix}\right), \Sigma_{X,Y} \right]$

(X, Y)

$(X,Y)$

A X + B Y = (\begin{matrix} A & B \end{matrix}) (\begin{matrix} X \\ Y \end{matrix})

$AX+BY=\left(\begin{matrix}A& B \end{matrix}\right) \left(\begin{matrix}X\\Y \end{matrix}\right)$

A X + B Y + C \sim N [(\begin{matrix} A & B \end{matrix}) (\begin{matrix} μ_{X} \\ μ_{Y} \end{matrix}) + C, (\begin{matrix} A & B \end{matrix}) Σ_{X, Y} (\begin{matrix} A^{T} \\ B^{T} \end{matrix})]

$AX+BY+C \sim \mathcal{N}\left[ \left(\begin{matrix}A& B \end{matrix}\right) \left(\begin{matrix}\mu_X\\\mu_Y\end{matrix}\right) + C, \left(\begin{matrix}A & B \end{matrix}\right)\Sigma_{X,Y} \left(\begin{matrix}A^T \\ B^T \end{matrix}\right)\right]$

A X + B Y + C \sim N [A μ_{X} + B μ_{Y} + C, A Σ_{X X} A^{T} + B Σ_{X Y}^{T} A^{T} + A Σ_{X Y} B^{T} + B Σ_{Y Y} B^{T}]

$AX+BY+C \sim \mathcal{N}\left[A\mu_X + B\mu_Y +C, A\Sigma_{XX}A^T+B\Sigma_{XY}^TA^T+A\Sigma_{XY}B^T+B\Sigma_{YY}B^T \right]$

— Xi'an
źródło

W przypadku przeoczenia należy zauważyć, że wątek komentarza do innej odpowiedzi wskazuje (a) te obliczenia kowariancji są poprawne (zrozumienie, że obejmują one naturalną, ale nieokreśloną notację macierzy blokowej), ale (b) nie możemy skutecznie stwierdzić, że kombinacje liniowe są zwykle dystrybuowane, dopóki nie przyjmiemy dodatkowego założenia; mianowicie, że i mają wspólny wielowymiarowy rozkład normalny.

X

$X$

Y

$Y$

— whuber

Czy możesz wyjaśnić, jak dostałeś się od do w ostatniej linii? Myślałem, że i wynik nie upraszcza dalej. Tutaj jest nie symetryczną matrycą od jego -tego elementu jest podczas jego -ty element ma , i nie ma powodu, dla którego te kowariancje muszą być równe.

B Σ_{X Y}^{T} A^{T} + A Σ_{X Y} B^{T}

$B\Sigma_{XY}^TA^T+A\Sigma_{XY}B^T$

2 A Σ_{X Y} B^{T}

$2A\Sigma_{XY}B^T$

B Σ_{X Y}^{T} A^{T} + A Σ_{X Y} B^{T} = (A Σ_{X Y} B^{T})^{T} + A Σ_{X Y} B^{T}

$B\Sigma_{XY}^TA^T+A\Sigma_{XY}B^T = (A\Sigma_{XY}B^T)^T + A\Sigma_{XY}B^T$

Σ_{X Y}

$\Sigma_{XY}$

(i, j)

$(i,j)$

cov (X_{i}, Y_{j})

$\text{cov}(X_i,Y_j)$

(j, i)

$(j,i)$

cov (X_{j}, Y_{i})

$\text{cov}(X_j,Y_i)$

— Dilip Sarwate

@DilipSarwate: (+1) masz rację, w ogólnym przypadku nie ma powodu, aby te dwa warunki były równe.

— Xi'an

Twoje pytanie nie ma jednoznacznej odpowiedzi, jak na obecną postawę, chyba że założysz, że i są normalnie dystrybuowane razem z kowariancją w prawym górnym bloku . myślę, że masz na myśli to, ponieważ mówisz, że masz każdą kowariancję między X i Y. W tym przypadku możemy napisać która jest również wielowymiarowa normalna. wtedy podaje się jako jako: $X$ $Y$ $\Sigma_{XY}$ $W=(X^T,Y^T)^T$ $Z$ $W$

Z = (A, B) W + C

$Z=(A,B)W+C$

Następnie używasz swojej zwykłej formuły dla kombinacji liniowej. Należy zauważyć, że średnia pozostaje niezmieniona, ale do macierzy kowariancji dodano dwa dodatkowe terminy $A\Sigma_{XY}B^T+B\Sigma_{XY}^TA^T$

— prawdopodobieństwo prawdopodobieństwa
źródło

Dzięki, że zwróciłem uwagę na tę kwestię, w rzeczywistości nawet o tym nie myślałem, ale wydaje się, że zmienne są rzeczywiście w moim przypadku postrzegane jako wspólnie rozłożone normalnie, nawet jeśli ich komponenty są skorelowane.

— Ivan

Zgadzam się, że nie można rozwiązać tego problemu w postawionej formie. To może być rozwiązany w prosty sposób, jeśli założymy, jak @ Xi'an odpowiedź na nie, że i są wspólnie rozkład normalny. Mógłby być rozwiązany, prawdopodobnie z większym trudem, gdyby rozkład stawów został określony jako coś innego niż normalna staw. Ale sama znajomość dla wszystkich , nie oznacza, że jest normalną wielowymiarową . Jakiekolwiek dwa zmiennymi losowymi o skończonej wariancji mają kowariancji. Kowariancja nie jest zdefiniowana tylko dla normalnych lub wspólnie normalnych zmiennych losowych.

X

$X$

Y

$Y$

cov (X_{i}, Y_{j})

$\text{cov}(X_i,Y_j)$

i, j

$i, j$ $W = (X^T,Y^T)^T$

— Dilip Sarwate

W moim przypadku X i Y są wspólnie normalne, postaram się wyjaśnić, dlaczego, poprawcie mnie, jeśli się mylę. Załóżmy, że istnieje zbiór niezależnych jednoczynnikowych normalnych wartości RV. Każdy element X i Y jest dowolną liniową kombinacją tych zmiennych jednowymiarowych ze zbioru. Dlatego, ponieważ zmienne początkowe są niezależne i biorą udział tylko transformacje liniowe, wszystkie wektory X, Y i Z są wielowymiarowymi normalnymi wartościami rv. Wynika to z definicji wielowymiarowego normalnego rv, gdzie powinno być jednowymiarowym normalnym rv dla dowolnego wektora . Czy jest sens?

a^{T} X

$a^T X$

a

$a$

— Ivan

@Ivan Twoje wyjaśnienie ma sens, ale skarga dotyczy stwierdzenia „Załóżmy, że mamy dwa wektory zmiennych losowych, oba są normalne, tj. i ”, co nie oznacza, że i są wspólnie normalne . Ani też powiedzenie, że „znamy korelację dowolnej pary ” nie oznacza, że i są wspólnie normalne, mimo że, jak poprawnie twierdzisz, sugeruje, że jest normalny (i podobnie dla .) normalność

X \sim N (μ_{X}, Σ_{X})

$X\sim N(\mu_X,\Sigma_X)$

Y \sim N (μ_{Y}, Σ_{Y})

$Y\sim N(\mu_Y,\Sigma_Y)$

X

$X$

Y

$Y$

(X_{i}, Y_{i})

$(X_i,Y_i)$

X_{i}

$X_i$

Y_{i}

$Y_i$

X \sim N (μ_{X}, Σ_{X})

$X\sim N(\mu_X,\Sigma_X)$

X_{i}

$X_i$

Y_{i}

$Y_i$ nie oznacza wspólnej normalności. Zobacz odnośnik poniżej.

— Dilip Sarwate

@Ivan Zobacz dyskusję po tym pytaniu

— Dilip Sarwate