Descomposición Espectral y Componentes Principales

La descomposición espectral de \(\boldsymbol{\Sigma}\) es:
\[
\boldsymbol{\Sigma} = \mathbf{Q} \boldsymbol{\Lambda} \mathbf{Q}^T
\]
donde \(\mathbf{Q}\) es ortogonal (\(\mathbf{Q}\mathbf{Q}^T = \mathbf{I}\)) y \(\boldsymbol{\Lambda} = \text{diag}(\lambda_1, \ldots, \lambda_p)\).
 

 Teorema: Si \(\mathbf{X} \sim N_p(\boldsymbol{\mu}, \boldsymbol{\Sigma})\) y \(\mathbf{Y} = \mathbf{Q}^T \mathbf{X}\), entonces
\[
\mathbf{Y} \sim N_p(\mathbf{Q}^T\boldsymbol{\mu}, \boldsymbol{\Lambda})
\]
Es decir, las componentes de \(\mathbf{Y}\) son independientes y \(\text{var}(Y_i) = \lambda_i\). 

 
 Ejemplo del PDF: Vector 5-dimensional 
 \(\mathbf{X} \sim N_5(\boldsymbol{\mu}, \boldsymbol{\Sigma})\) con: 
 
 
 μ = [0, 1, -1, 2, 0]ᵀ 
 Σ = 
⎡ 1 0 -1 1 0 ⎤ 
⎢ 0 2 -1 0 1 ⎥ 
⎢-1 -1 3 -1 0 ⎥ 
⎢ 1 0 -1 4 1 ⎥ 
⎣ 0 1 0 1 5 ⎦
 
 
 Calcular descomposición espectral 
 
 
 
 

 
 Ejemplo resuelto (del PDF) 
a) \(X_5 \sim N(0,5)\) (marginal) 
b) \(\text{cov}(X_1, X_4) = 1\), \(\rho_{14} = \frac{1}{\sqrt{1\cdot4}} = 0.5\) 
c) \(\begin{pmatrix}X_3 \\ X_2\end{pmatrix} \sim N_2\left(\begin{pmatrix}-1 \\ 1\end{pmatrix}, \begin{pmatrix}3 & -1 \\ -1 & 2\end{pmatrix}\right)\) 
d) \(\text{cov}(X_2, X_4) = 0\) ⇒ independientes (por normalidad) 
e) \((X_4|X_1=-2) \sim N(0, 4(1-0.5^2)) = N(0,3)\) 
f) \(\mathbb{P}(X_4 - X_2 > 0) = \Phi(1/\sqrt{6}) \approx 0.6584\)
 

 Variación total y proporciones acumuladas: 
\(\text{vartot}(\mathbf{X}) = \text{tr}(\boldsymbol{\Sigma}) = 1+2+3+4+5 = 15\) 
Valores propios (del cálculo R en el PDF): λ = [5.423, 5.064, 2.869, 1.247, 0.397] 
δ₁ = 5.423/15 = 0.3615, δ₂ = 0.3376, δ₃ = 0.1913, δ₄ = 0.0831, δ₅ = 0.0265 
Proporciones acumuladas: 0.362, 0.699, 0.890, 0.974, 1.000 
¡Las primeras 3 componentes explican el 89% de la variación total! 

 
 ¿Para qué sirve la descomposición espectral? 
Es la base del Análisis de Componentes Principales (PCA) . Permite reducir la dimensionalidad: en lugar de trabajar con las p variables originales (correlacionadas), trabajamos con las primeras k componentes (independientes) que explican la mayor parte de la variación.
 

 Ejercicio 

 
 Sea \(\mathbf{X}\sim N_2(\boldsymbol{\mu}, \boldsymbol{\Sigma})\) con \(\boldsymbol{\Sigma}=\begin{pmatrix}4 & 2\\ 2 & 4\end{pmatrix}\). Encuentre la descomposición espectral (eigenvalores y eigenvectores) y determine qué proporción de la variación total explica la primera componente principal. 
Los eigenvalores satisfacen \(\det(\boldsymbol{\Sigma}-\lambda I)=0\):
\[
(4-\lambda)^2 - 4 = 0 \implies 4-\lambda = \pm2 \implies \lambda_1=6,\ \lambda_2=2.
\]
Para \(\lambda_1=6\): \((4-6)v_1+2v_2=0 \implies v_1=v_2\), eigenvector normalizado \(\frac{1}{\sqrt2}(1,1)^T\).
 
Para \(\lambda_2=2\): \((4-2)v_1+2v_2=0 \implies v_1=-v_2\), eigenvector normalizado \(\frac{1}{\sqrt2}(1,-1)^T\).
 
Verificación: \(\text{vartot}(\mathbf{X})=\text{tr}(\boldsymbol{\Sigma})=4+4=8=\lambda_1+\lambda_2=6+2\). ✓
 
La primera componente principal (asociada a \(\lambda_1=6\)) explica:
\[
\frac{\lambda_1}{\lambda_1+\lambda_2} = \frac{6}{8} = 0.75,
\]
es decir, el 75% de la variación total — con una sola componente (en vez de las 2 variables originales, correlacionadas con \(\rho=2/4=0.5\)) capturamos la mayor parte de la información.