Descomposición Espectral y Componentes Principales
Teorema: Si \(\mathbf{X} \sim N_p(\boldsymbol{\mu}, \boldsymbol{\Sigma})\) y \(\mathbf{Y} = \mathbf{Q}^T \mathbf{X}\), entonces \[ \mathbf{Y} \sim N_p(\mathbf{Q}^T\boldsymbol{\mu}, \boldsymbol{\Lambda}) \] Es decir, las componentes de \(\mathbf{Y}\) son independientes y \(\text{var}(Y_i) = \lambda_i\).
Ejemplo del PDF: Vector 5-dimensional
\(\mathbf{X} \sim N_5(\boldsymbol{\mu}, \boldsymbol{\Sigma})\) con:
Σ =
⎡ 1 0 -1 1 0 ⎤
⎢ 0 2 -1 0 1 ⎥
⎢-1 -1 3 -1 0 ⎥
⎢ 1 0 -1 4 1 ⎥
⎣ 0 1 0 1 5 ⎦
Ejemplo resuelto (del PDF)
a) \(X_5 \sim N(0,5)\) (marginal)b) \(\text{cov}(X_1, X_4) = 1\), \(\rho_{14} = \frac{1}{\sqrt{1\cdot4}} = 0.5\)
c) \(\begin{pmatrix}X_3 \\ X_2\end{pmatrix} \sim N_2\left(\begin{pmatrix}-1 \\ 1\end{pmatrix}, \begin{pmatrix}3 & -1 \\ -1 & 2\end{pmatrix}\right)\)
d) \(\text{cov}(X_2, X_4) = 0\) ⇒ independientes (por normalidad)
e) \((X_4|X_1=-2) \sim N(0, 4(1-0.5^2)) = N(0,3)\)
f) \(\mathbb{P}(X_4 - X_2 > 0) = \Phi(1/\sqrt{6}) \approx 0.6584\)
Variación total y proporciones acumuladas:
\(\text{vartot}(\mathbf{X}) = \text{tr}(\boldsymbol{\Sigma}) = 1+2+3+4+5 = 15\)
Valores propios (del cálculo R en el PDF): λ = [5.423, 5.064, 2.869, 1.247, 0.397]
δ₁ = 5.423/15 = 0.3615, δ₂ = 0.3376, δ₃ = 0.1913, δ₄ = 0.0831, δ₅ = 0.0265
Proporciones acumuladas: 0.362, 0.699, 0.890, 0.974, 1.000
¡Las primeras 3 componentes explican el 89% de la variación total!
¿Para qué sirve la descomposición espectral?
Es la base del Análisis de Componentes Principales (PCA). Permite reducir la dimensionalidad: en lugar de trabajar con las p variables originales (correlacionadas), trabajamos con las primeras k componentes (independientes) que explican la mayor parte de la variación.Ejercicio
Sea \(\mathbf{X}\sim N_2(\boldsymbol{\mu}, \boldsymbol{\Sigma})\) con \(\boldsymbol{\Sigma}=\begin{pmatrix}4 & 2\\ 2 & 4\end{pmatrix}\). Encuentre la descomposición espectral (eigenvalores y eigenvectores) y determine qué proporción de la variación total explica la primera componente principal.
Los eigenvalores satisfacen \(\det(\boldsymbol{\Sigma}-\lambda I)=0\): \[ (4-\lambda)^2 - 4 = 0 \implies 4-\lambda = \pm2 \implies \lambda_1=6,\ \lambda_2=2. \] Para \(\lambda_1=6\): \((4-6)v_1+2v_2=0 \implies v_1=v_2\), eigenvector normalizado \(\frac{1}{\sqrt2}(1,1)^T\).Para \(\lambda_2=2\): \((4-2)v_1+2v_2=0 \implies v_1=-v_2\), eigenvector normalizado \(\frac{1}{\sqrt2}(1,-1)^T\).
Verificación: \(\text{vartot}(\mathbf{X})=\text{tr}(\boldsymbol{\Sigma})=4+4=8=\lambda_1+\lambda_2=6+2\). ✓
La primera componente principal (asociada a \(\lambda_1=6\)) explica: \[ \frac{\lambda_1}{\lambda_1+\lambda_2} = \frac{6}{8} = 0.75, \] es decir, el 75% de la variación total — con una sola componente (en vez de las 2 variables originales, correlacionadas con \(\rho=2/4=0.5\)) capturamos la mayor parte de la información.
No comments to display
No comments to display