Wypełnianie macierzy korelacji 3x3: dwa podane współczynniki

20

Zadano mi to pytanie w wywiadzie.

Powiedzmy, że mamy macierz korelacji w postaci

[\begin{matrix} 1 & 0.6 & 0,8 \\ 0,6 & 1 & γ \\ 0,8 & γ & 1 \end{matrix}]

$\begin{bmatrix}1&0.6&0.8\\0.6&1&\gamma\\0.8&\gamma&1\end{bmatrix}$

Poproszono mnie o znalezienie wartości gamma, biorąc pod uwagę tę macierz korelacji.
Pomyślałem, że mogę coś zrobić z wartościami własnymi, ponieważ wszystkie powinny być większe lub równe 0. (Macierz powinna być dodatnia półfinałowa) - ale nie sądzę, że to podejście da odpowiedź. Brakuje mi sztuczki.

Czy możesz podać wskazówkę dotyczącą rozwiązania tego samego?

pearson-r correlation-matrix

— nowicjusz
źródło

Komentarze nie są przeznaczone do rozszerzonej dyskusji; ta rozmowa została przeniesiona do czatu .

— whuber

1

Przeszukiwanie tej witryny doprowadziło bezpośrednio do jednego z (kilku) wątków zawierających odpowiednie formuły: stats.stackexchange.com/questions/5747 . W odpowiedzi felixa znajduje się również kilka przydatnych wykresów .

— whuber

21

Wiemy już, że jest ograniczona między Macierz korelacji powinna być dodatnia półfinałowa, a zatem jej główni nieletni powinni być nieujemni $\gamma$ $[-1,1]$

Tak więc

\begin{aligned} 1 (1 - γ^{2}) - 0.6 (0.6 - 0.8 γ) + 0.8 (0.6 γ - 0.8) & \geq 0 \\ - γ^{2} + 0.96 γ \geq 0 \\ ⟹ γ (γ - 0.96) \leq 0 and - 1 \leq γ \leq 1 \\ ⟹ 0 \leq γ \leq 0.96 \end{aligned}

$\begin{align*} 1(1-\gamma^2)-0.6(0.6-0.8\gamma)+0.8(0.6\gamma-0.8) &\geq 0\\ -\gamma^2+0.96\gamma \geq 0\\ \implies \gamma(\gamma-0.96) \leq 0 \text{ and } -1 \leq \gamma \leq 1 \\ \implies 0 \leq \gamma \leq 0.96 \end{align*}$

— prawoskrętny
źródło

4

@novice Możesz przeczytać o Kryterium Sylwestra

— prawy krzyżyk

Świetna odpowiedź. Dodałbym następujące: Popularnym sposobem uzyskiwania gamma jest próba znalezienia gammy, która prowadziłaby do macierzy korelacji najmniejszej normy jądrowej (znanej również jako norma ky-fan) przy rozwiązywaniu powyższych równań. Aby uzyskać więcej informacji, wyszukaj „uzupełnienie macierzy”, „wykrywanie kompresji” lub sprawdź ten raport na temat bit.ly/2iwY1nW .

— Mustafa S Eisa

1

Aby to być dowodem, potrzebujesz wyniku w innym kierunku: jeśli wszystkie nietrywialne wiodące nieletnie mają

a macierz ma wyznacznik

, to macierz jest dodatnia półfinałowa.

> 0

$>0$

\geq 0

$\geq 0$

— Federico Poloni

10

Oto prostsze (i być może bardziej intuicyjne) rozwiązanie:

Pomyśl o kowariancji jako wewnętrznym produkcie nad abstrakcyjną przestrzenią wektorową . Następnie, wpisy w macierzy korelacji do wektorów , , , w którym kątownik oznacza kąt pomiędzy i . $\cos\langle\mathbf{v}_i,\mathbf{v}_j\rangle$ $\mathbf{v}_1$ $\mathbf{v}_2$ $\mathbf{v}_3$ $\langle\mathbf{v}_i,\mathbf{v}_j\rangle$ $\mathbf{v}_i$ $\mathbf{v}_j$

To nie jest trudne do wizualizacji, które jest ograniczony przez . W związku z tym cosinus ( ) jest więc . Podstawowa trygonometria daje wtedy . $\langle\mathbf{v}_2,\mathbf{v}_3\rangle$ $|\langle\mathbf{v}_1,\mathbf{v}_2\rangle\pm\langle\mathbf{v}_1,\mathbf{v}_3\rangle|$ $\gamma$ $\cos\left[\langle\mathbf{v}_1,\mathbf{v}_2\rangle\pm\langle\mathbf{v}_1,\mathbf{v}_3\rangle\right]$ $\gamma\in[0.6\times 0.8 - 0.6\times 0.8, 0.6\times 0.8 + 0.6\times 0.8] = [0, 0.96]$

Edycja: Należy pamiętać, że w ostatnim wierszu jest naprawdę - drugie pojawienie się 0,6 i 0,8 następuje przypadkowo dzięki $0.6\times 0.8 \mp 0.6\times 0.8$ $\cos\langle\mathbf{v}_1,\mathbf{v}_2\rangle\cos\langle\mathbf{v}_1,\mathbf{v}_3\rangle\mp \sin\langle\mathbf{v}_1,\mathbf{v}_3\rangle\sin\langle\mathbf{v}_1,\mathbf{v}_2\rangle$ $0.6^2+0.8^2=1$ .

— yangle
źródło

1

+1, Uzasadnione geometryczne rozumowanie (mówiąc to, nie sprawdziłem jednak twoich obliczeń). Właśnie to zaproponowałem w komentarzach do pytania (niestety, wszystkie komentarze zostały przeniesione przez moderatora na czat, patrz link powyżej).

— ttnphns

Wydaje mi się, że „udowodniłeś”, że wszystkie korelacje muszą być nieujemne, ponieważ wydaje się, że twoje obliczenia zawsze dają zero dla dolnej granicy. Jeśli tak nie jest, czy możesz rozwinąć ogólne zasady działania obliczeń? Naprawdę nie ufam - a może nie rozumiem - twojej granicy, ponieważ w trzech lub więcej wymiarach zawsze możesz znaleźć

dla którego oba

a następnie twoja granica oznacza

jest zawsze równe zero! (cc @ttnphns)

v_{1}

$v_1$

v_{1} \cdot v_{2} = v_{1} \cdot v_{3} = 0

$v_1\cdot v_2=v_1\cdot v_3=0$

v_{2} \cdot v_{3}

$v_2\cdot v_3$

— whuber

@whuber: Przepraszam za zamieszanie. Obliczenia nie zawsze dają zero dla dolnej granicy. Poprawiłem swoją odpowiedź.

— yangle

Jak reagujesz na moją ostatnią troskę? Wygląda na to, że Twoje granice są nieprawidłowe.

— whuber

@whuber: W twoim przypadku ⟨v1, v2⟩ = ⟨v1, v3⟩ = π / 2, stąd granica | ⟨v1, v2⟩ ± ⟨v1, v3⟩ | wynosi [0, π] zgodnie z oczekiwaniami. Związane cos⟨v1, v2⟩cos⟨v1, v3⟩∓sin⟨v1, v3⟩sin⟨v1, v2⟩ na γ również działa na [-1, 1].

— yangle

4

Oto, co miałem na myśli w moim początkowym komentarzu do odpowiedzi i co postrzegam @yangle może mówić (chociaż nie śledziłem / nie sprawdziłem ich obliczeń).

„Matryca powinna być dodatnia półfinałowa” oznacza, że wektory zmienne są wiązką w przestrzeni euklidesowej. Przypadek macierzy korelacji jest łatwiejszy niż macierzy kowariancji, ponieważ trzy długości wektorów są ustalone na 1. Wyobraź sobie 3 wektory jednostkowe XYZ i pamiętaj, że jest cosinus kąta . Zatem , a . Jakie mogą być granice dla $r$ $\cos \alpha=r_{xy}=0.6$ $\cos \beta=r_{yz}=0.8$ $\cos \gamma=r_{xz}$ ? Korelacja ta może przyjmować dowolną wartość zdefiniowaną przez Z, opisującą Y (utrzymując przy tym kąt ): $r_{yz}=0.8$

Gdy się obraca, dwie pozycje są niezwykłe jako ostateczne wrt X, obie mają miejsce, gdy Z wpada do płaszczyzny XY. Jeden znajduje się między X i Y, a drugi znajduje się po przeciwnej stronie Y. Są one pokazane przez wektory niebieskie i czerwone. W obu tych pozycjach dokładnie konfiguracja XYZ (macierz korelacji) jest pojedyncza. A są to minimalny i maksymalny kąt (stąd korelacja) Z może osiągnąć wrt X.

Wybierając wzór trygonometryczny w celu obliczenia sumy lub różnicy kątów na płaszczyźnie, mamy:

jako granice. $\cos \gamma = r_{xy} r_{yz} \mp \sqrt{(1-r_{xy}^2)(1-r_{yz}^2)} = [0,0.96]$

Ten widok geometryczny jest kolejnym (a konkretnym i prostszym w przypadku 3D) spojrzeniem na to, co @rightskewed wyraził w kategoriach algebraicznych (nieletni itp.).

— ttnphns
źródło

Jeśli X, Y, Z są zmiennymi losowymi, w jaki sposób zamapujesz je na wektory w przestrzeni 3d (mogą to być tylko wektory w przestrzeni 1d). Także jeśli RV to Nx1, to czy będą wektorami w N wymiarowej przestrzeni?

— nowicjusz

@novice Tak, początkowo są to 3 wektory w przestrzeni Nd, ale tylko 3 wymiary są nieistotne. Kliknij drugi link w odpowiedzi i przeczytaj dalsze odniesienie do obszaru tematycznego, w którym jest wyjaśnione.

— ttnphns

4

Zabawa z głównymi nieletnimi może być w porządku na problemach 3 na 3 lub 4 na 4, ale zabraknie gazu i stabilności liczbowej w wyższych wymiarach.

W przypadku pojedynczego problemu „wolnego” parametru, takiego jak ten, łatwo zauważyć, że zestaw wszystkich wartości tworzących psd macierzy będzie pojedynczym interwałem. Dlatego wystarczy znaleźć minimum i maksimum takich wartości. Można to łatwo osiągnąć, rozwiązując numerycznie parę problemów z liniowym programowaniem SemiDefinite (SDP):

minimalizacja γ podlegająca matrycy to psd.
maksymalizacja γ zależna od macierzy to psd.

Na przykład problemy te można formułować i rozwiązywać numerycznie, używając YALMIP w MATLAB.

gamma = sdpvar; A = [1, 6, 8; .6 1 gamma; 0,8 gamma 1]; optymalizuj (A> = 0, gamma)
optymalizuj (A> = 0, -gamma)

Szybki, łatwy i niezawodny.

BTW, jeśli smarty ankieter spodni zadający pytanie, nie wie, że programowanie SemiDefinite, które jest dobrze rozwinięte i ma wyrafinowane i łatwe w użyciu optymalizatory numeryczne do niezawodnego rozwiązywania problemów praktycznych, może być użyte do rozwiązania tego problemu, i wiele więcej trudne warianty, powiedz mu, że to już nie 1870 rok, i czas skorzystać z nowoczesnych osiągnięć obliczeniowych.

— Mark L. Stone
źródło

4

Rozważmy następujący zestaw wypukły

{(x, y, z) \in R^{3} : [\begin{matrix} 1 & x & y \\ x & 1 & z \\ y & z & 1 \end{matrix}] ⪰ O_{3}}

$\Bigg\{ (x,y,z) \in \mathbb R^3 : \begin{bmatrix} 1 & x & y\\ x & 1 & z\\ y & z & 1\end{bmatrix} \succeq \mathrm O_3 \Bigg\}$

$3$

$x=0.6$ $y=0.8$

Granicą eliptopu jest sześcienna powierzchnia określona przez

det [\begin{matrix} 1 & x & y \\ x & 1 & z \\ y & z & 1 \end{matrix}] = 1 + 2 x y z - x^{2} - y^{2} - z^{2} = 0

$\det \begin{bmatrix} 1 & x & y\\ x & 1 & z\\ y & z & 1\end{bmatrix} = 1 + 2 x y z - x^2 - y^2 - z^2 = 0$

$x=0.6$ $y=0.8$

0.96 z - z^{2} = z (0.96 - z) = 0

$0.96 z - z^2 = z (0.96 - z) = 0$

Zatem przecięcie eliptopu z dwiema płaszczyznami jest parametryzowanym segmentem linii

{(0.6, 0.8, t) ∣ 0 \leq t \leq 0.96}

$\{ (0.6, 0.8, t) \mid 0 \leq t \leq 0.96 \}$

— Rodrigo de Azevedo
źródło

1

Każda dodatnia półokreślona macierz jest macierzą korelacji / kowariancji (i odwrotnie).

$A$ $A$ $A=UDU^T$ $U$ $D$ $B= U D^{1/2} U^T$ $D^{1/2}$

$\mathbf{x}$ $B \mathbf{x}$ $A$

$R=E[\mathbf{x}\mathbf{x}^T]$ $R = R^T$ $\mathbf{a}^T R \mathbf{a} = E[(\mathbf{a}^T \mathbf{x})^2] \geq 0$ $\mathbf{a}$ $R$

$2^n$ $n$

— Ordynans
źródło