Cálculo de Probabilidades II

Esperanza y covarianza de vectores aleatorios

Esperanza y covarianza de vectores aleatorios

Esperanza de funciones de vectores aleatorios

El Teorema del Estadístico Inconsciente (TEI) nos dice cómo calcular la esperanza de una función \(g(X,Y)\) sin necesidad de encontrar primero la distribución de \(g(X,Y)\).

Simulador: Esperanza de funciones en dados

TEI para vectores aleatorios:
Caso discreto: \(\mathbb{E}[g(X,Y)] = \sum_x \sum_y g(x,y) f_{XY}(x,y)\)
Caso continuo: \(\mathbb{E}[g(X,Y)] = \iint_{\mathbb{R}^2} g(x,y) f_{XY}(x,y) dx dy\)

Propiedad: Siempre se cumple que \(\mathbb{E}[X+Y] = \mathbb{E}[X] + \mathbb{E}[Y]\). ¿Por qué? La esperanza es lineal. Para \(g(X,Y)=X+Y\), la integral/suma se separa en dos términos, cada uno dando la esperanza marginal correspondiente.

Ejercicio

Sean \(X,Y\) los resultados de lanzar dos dados justos de forma independiente (cada uno Uniforme Discreta en \(\{1,\ldots,6\}\)). Use el TEI para calcular \(\mathbb{E}[\max(X,Y)]\) y verifique el resultado con el simulador de arriba. Primero encontramos la f.m.p. de \(\max(X,Y)\). Para \(k=1,\ldots,6\): \[ \mathbb{P}(\max(X,Y)\le k) = \mathbb{P}(X\le k)\mathbb{P}(Y\le k) = \left(\frac{k}{6}\right)^2 \implies \mathbb{P}(\max(X,Y)=k) = \frac{k^2-(k-1)^2}{36} = \frac{2k-1}{36}. \] Aplicando el TEI (aquí, directamente sobre la distribución de \(g(X,Y)=\max(X,Y)\), lo cual es válido porque ya conocemos su f.m.p.): \[ \mathbb{E}[\max(X,Y)] = \sum_{k=1}^{6} k\cdot\frac{2k-1}{36} = \frac{1+6+15+28+45+66}{36} = \frac{161}{36} \approx 4.4722. \] Compare este valor con el que reporta el simulador al seleccionar "g(X,Y) = max(X, Y)".
Esperanza y covarianza de vectores aleatorios

Covarianza y Correlación

La covarianza mide la asociación lineal entre dos variables: \[ \operatorname{cov}(X,Y) = \mathbb{E}[(X-\mu_X)(Y-\mu_Y)] = \mathbb{E}[XY] - \mathbb{E}[X]\mathbb{E}[Y] \] El coeficiente de correlación \(\rho = \frac{\operatorname{cov}(X,Y)}{\sigma_X \sigma_Y}\) está normalizado entre -1 y 1.

Explora diferentes niveles de correlación

0.80

Propiedades de la covarianza:

  • \(\operatorname{cov}(X,X) = \operatorname{var}(X)\)
  • \(\operatorname{cov}(X,Y) = \operatorname{cov}(Y,X)\)
  • \(\operatorname{cov}(aX, bY) = ab \operatorname{cov}(X,Y)\)
  • \(\operatorname{cov}(X+Y, Z) = \operatorname{cov}(X,Z) + \operatorname{cov}(Y,Z)\)
  • Si \(X \perp Y\), entonces \(\operatorname{cov}(X,Y)=0\) (pero el recíproco no es cierto)

Contraejemplo: covarianza cero NO implica independencia

X\Y-101P(X=x)
-11/301/32/3
101/301/3
P(Y=y)1/31/31/31
Verifica: En esta tabla, \(\mathbb{E}[X]=-1/3\), \(\mathbb{E}[Y]=0\), \(\mathbb{E}[XY]=0\). ¿Son independientes X e Y? No son independientes. Por ejemplo, \(f(-1,-1)=1/3\) pero \(f_X(-1)f_Y(-1) = (2/3)(1/3)=2/9\). ¡Covarianza cero pero dependientes!

Desigualdad de Cauchy-Schwarz: \[ (\mathbb{E}[XY])^2 \le \mathbb{E}[X^2]\mathbb{E}[Y^2] \] De aquí se deduce que \(|\operatorname{corr}(X,Y)| \le 1\).

Ejercicio

Una urna tiene tres bolas numeradas 1, 2, 3. Se extraen dos bolas sin reemplazo. Sea \(X\) el número de la primera bola extraída y \(Y\) el de la segunda. Determine \(\operatorname{cov}(X,Y)\) y \(\rho_{XY}\). Hay 6 pares ordenados igualmente probables, cada uno con probabilidad 1/6: \((1,2),(1,3),(2,1),(2,3),(3,1),(3,2)\). Por simetría, \(X\) y \(Y\) tienen marginal Uniforme Discreta en \(\{1,2,3\}\), así que \(\mathbb{E}[X]=\mathbb{E}[Y]=2\) y \(\mathbb{E}[X^2]=\mathbb{E}[Y^2]=\frac{1+4+9}{3}=\frac{14}{3}\), de donde \(\operatorname{var}(X)=\operatorname{var}(Y)=\frac{14}{3}-4=\frac{2}{3}\).

Para \(\mathbb{E}[XY]\), sumamos \(xy\) sobre los 6 pares: \[ \mathbb{E}[XY] = \frac{1\cdot2+1\cdot3+2\cdot1+2\cdot3+3\cdot1+3\cdot2}{6} = \frac{22}{6} = \frac{11}{3}. \] Entonces: \[ \operatorname{cov}(X,Y) = \mathbb{E}[XY]-\mathbb{E}[X]\mathbb{E}[Y] = \frac{11}{3}-4 = -\frac{1}{3}, \qquad \rho_{XY} = \frac{-1/3}{2/3} = -\frac{1}{2}. \] La covarianza es negativa: si la primera bola extraída tiene un número alto, queda menos probabilidad de que la segunda también lo tenga (muestreo sin reemplazo).
Esperanza y covarianza de vectores aleatorios

Media y Varianza Muestral

Para una muestra \(X_1, \ldots, X_n\) i.i.d. con media \(\mu\) y varianza \(\sigma^2\): \[ \bar{X}_n = \frac{1}{n}\sum_{i=1}^n X_i, \qquad S^2 = \frac{1}{n-1}\sum_{i=1}^n (X_i - \bar{X}_n)^2 \]

Simulador: Comportamiento de la media muestral

30

Propiedades fundamentales:

  • \(\mathbb{E}[\bar{X}_n] = \mu\) (insesgado)
  • \(\operatorname{var}(\bar{X}_n) = \sigma^2/n\)
  • \(\mathbb{E}[S^2] = \sigma^2\) (cuasivarianza insesgada)

La división por \(n-1\) (en lugar de \(n\)) corrige el sesgo.

¿Por qué usamos n-1 en lugar de n para la varianza muestral? Porque \(\mathbb{E}[\frac{1}{n}\sum (X_i - \bar{X})^2] = \frac{n-1}{n}\sigma^2\). Al dividir por \(n-1\) obtenemos un estimador insesgado: \(\mathbb{E}[S^2] = \sigma^2\).

Ejercicio

Se registra la siguiente muestra de 5 observaciones: 4, 8, 6, 5, 7. Calcule \(\bar{X}\) y \(S^2\). La media muestral es: \[ \bar{X} = \frac{4+8+6+5+7}{5} = \frac{30}{5} = 6. \] Las desviaciones respecto a la media son \(-2, 2, 0, -1, 1\), y sus cuadrados suman \(4+4+0+1+1=10\). Entonces: \[ S^2 = \frac{1}{n-1}\sum_{i=1}^5 (X_i-\bar{X})^2 = \frac{10}{4} = 2.5. \]
Esperanza y covarianza de vectores aleatorios

Vector de Medias y Matriz de Covarianzas

Para un vector aleatorio \(\mathbf{X} = (X_1, \ldots, X_n)^T\): \[ \boldsymbol{\mu} = \mathbb{E}[\mathbf{X}] = \begin{pmatrix} \mu_1 \\ \vdots \\ \mu_n \end{pmatrix}, \qquad \boldsymbol{\Sigma} = \operatorname{cov}(\mathbf{X}) = \mathbb{E}[(\mathbf{X}-\boldsymbol{\mu})(\mathbf{X}-\boldsymbol{\mu})^T] \] \(\boldsymbol{\Sigma}\) es simétrica y semidefinida positiva.

Visualización de matriz de covarianzas 2D

1.0 1.0 0.5

Propiedades:

  • \(\mathbb{E}[A\mathbf{X}] = A\boldsymbol{\mu}\)
  • \(\operatorname{cov}(A\mathbf{X}) = A\boldsymbol{\Sigma}A^T\)
  • \(\operatorname{vartot}(\mathbf{X}) = \operatorname{tr}(\boldsymbol{\Sigma}) = \sum_i \sigma_i^2 = \sum_i \lambda_i\)

La variación total es la suma de las varianzas, igual a la suma de los valores propios.

¿Qué significa que la matriz de covarianzas sea diagonal? Si \(\boldsymbol{\Sigma}\) es diagonal, todas las covarianzas son cero: las variables están no correlacionadas. Pero cuidado: ¡no correlacionadas no implica independencia!

Ejercicio

Sea \(\mathbf{X}=(X_1,X_2)^T\) con matriz de covarianzas \(\boldsymbol{\Sigma}=\begin{pmatrix}2 & 1\\ 1 & 3\end{pmatrix}\). Use la fórmula \(\operatorname{cov}(A\mathbf{X})=A\boldsymbol{\Sigma}A^T\) con \(A=(1,1)\) para calcular \(\operatorname{var}(X_1+X_2)\), y verifique el resultado con la fórmula usual de varianza de una suma. Con \(A=(1,1)\): \[ A\boldsymbol{\Sigma} = (1,1)\begin{pmatrix}2&1\\1&3\end{pmatrix} = (2+1,\ 1+3) = (3,4), \] \[ A\boldsymbol{\Sigma}A^T = (3,4)\binom{1}{1} = 3+4 = 7. \] Verificación con la fórmula usual: \(\operatorname{var}(X_1+X_2)=\operatorname{var}(X_1)+\operatorname{var}(X_2)+2\operatorname{cov}(X_1,X_2) = 2+3+2(1)=7\). Ambos métodos coinciden, como debe ser: el enfoque matricial generaliza la fórmula escalar a cualquier combinación lineal del vector.
Esperanza y covarianza de vectores aleatorios

Sumas Aleatorias

Sea \(N\) una variable aleatoria entera no negativa, y \(X_1, X_2, \ldots\) i.i.d. independientes de \(N\). Definimos la suma aleatoria: \[ S_N = X_1 + X_2 + \cdots + X_N \]

Simulador: Elevador con personas

2.3 66.25

Resultados clave para sumas aleatorias: \[ \mathbb{E}[S_N] = \mathbb{E}[N] \cdot \mathbb{E}[X] \] \[ \operatorname{var}(S_N) = \operatorname{var}(N) \cdot (\mathbb{E}[X])^2 + \mathbb{E}[N] \cdot \operatorname{var}(X) \]

¿Por qué aparece \(\mathbb{E}[N] \cdot \operatorname{var}(X)\) y \(\operatorname{var}(N) \cdot (\mathbb{E}[X])^2\)? Por la ley de varianza total: \(\operatorname{var}(S_N) = \mathbb{E}[\operatorname{var}(S_N|N)] + \operatorname{var}(\mathbb{E}[S_N|N])\). El primer término da \(\mathbb{E}[N]\sigma_X^2\) y el segundo \(\sigma_N^2 \mu_X^2\).

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 4, ej. 5) Sea \((X_i, i\in\mathbb{N})\) una sucesión de v.a.i.i.d. con f.d.p. común \(f(x)=\lambda e^{-\lambda x}\mathbb{I}_{(0,\infty)}(x)\). Sea \(N\) una v.a. independiente de las \(X_i\)'s, con distribución Uniforme en \(\{1,2,3\}\). Considere la suma aleatoria \(S=\sum_{i=1}^N X_i\). Encuentre su media y su varianza. Para \(N\sim\text{Uniforme}\{1,2,3\}\): \(\mathbb{E}[N]=2\), \(\mathbb{E}[N^2]=\frac{1+4+9}{3}=\frac{14}{3}\), así que \(\operatorname{var}(N)=\frac{14}{3}-4=\frac{2}{3}\). Para cada \(X_i\sim\text{Exponencial}(\lambda)\): \(\mathbb{E}[X]=1/\lambda\), \(\operatorname{var}(X)=1/\lambda^2\). Aplicando las fórmulas de sumas aleatorias: \[ \mathbb{E}[S] = \mathbb{E}[N]\cdot\mathbb{E}[X] = \frac{2}{\lambda}, \] \[ \operatorname{var}(S) = \operatorname{var}(N)(\mathbb{E}[X])^2 + \mathbb{E}[N]\operatorname{var}(X) = \frac{2}{3}\cdot\frac{1}{\lambda^2} + 2\cdot\frac{1}{\lambda^2} = \frac{8/3}{\lambda^2}. \]
Esperanza y covarianza de vectores aleatorios

Mezclas de Distribuciones

Una mezcla de distribuciones tiene densidad: \[ f_X(x) = \sum_{i=1}^k p_i f_i(x), \quad \text{con } p_i > 0, \sum p_i = 1 \] Es como elegir al azar de cuál distribución proviene la observación.

Mezcla de dos normales (distribución contaminada)

0.70 3.0

Propiedades de la mezcla: \[ \mathbb{E}[X] = \sum_{i=1}^k p_i \mu_i \] \[ \operatorname{var}(X) = \sum_{i=1}^k p_i \sigma_i^2 + \sum_{i=1}^k p_i (\mu_i - \bar{\mu})^2 \] (varianza dentro de los grupos + varianza entre las medias)

Observa: Cuando σ es grande, ¿cómo cambia la forma de la densidad? Aparece una "cola" más pesada. Las mezclas de normales son útiles para modelar datos atípicos o poblaciones heterogéneas (ej: pesos de personas de diferentes edades).

Ejemplo adicional: Poisson con media aleatoria Gamma produce una distribución Binomial Negativa (modelo para número de accidentes).

Ejercicio

Un tiempo de espera \(X\) sigue una mezcla de dos exponenciales: con probabilidad \(p=0.6\) proviene de Exponencial(\(\lambda_1=1\)), y con probabilidad \(0.4\) de Exponencial(\(\lambda_2=3\)). Calcule \(\mathbb{E}[X]\) y \(\operatorname{var}(X)\). Las medias de cada componente son \(\mu_1=1/\lambda_1=1\) y \(\mu_2=1/\lambda_2=1/3\). Usando la fórmula de la media de una mezcla: \[ \mathbb{E}[X] = 0.6(1) + 0.4\left(\frac{1}{3}\right) = 0.7333. \] Para la varianza usamos \(\operatorname{var}(X)=\sum p_i\sigma_i^2+\sum p_i(\mu_i-\bar\mu)^2\), con \(\sigma_1^2=1\), \(\sigma_2^2=1/9\approx0.1111\) (varianza de cada exponencial es \(1/\lambda^2\)) y \(\bar\mu=\mathbb{E}[X]=0.7333\): \[ \text{dentro de grupos: } 0.6(1)+0.4(0.1111) = 0.6444, \] \[ \text{entre medias: } 0.6(1-0.7333)^2+0.4(0.3333-0.7333)^2 = 0.6(0.2667)^2+0.4(-0.4)^2 = 0.1067, \] \[ \operatorname{var}(X) = 0.6444+0.1067 = 0.7511. \] Se puede verificar directamente con \(\operatorname{var}(X)=\mathbb{E}[X^2]-(\mathbb{E}[X])^2\), usando \(\mathbb{E}[X^2]=\sum p_i\cdot\frac{2}{\lambda_i^2}=0.6(2)+0.4(2/9)=1.2889\): \(1.2889-0.7333^2=0.7511\). ✓

Función generadora de momentos

Función generadora de momentos

Función Generadora de Momentos - Definición

La función generadora de momentos (FGM) es una herramienta poderosa que "codifica" todos los momentos de una distribución en una sola función. \[ m_X(t) = \mathbb{E}[e^{tX}] = \begin{cases} \sum_{x} e^{tx} f_X(x) & \text{(discreto)} \\ \int_{-\infty}^{\infty} e^{tx} f_X(x) dx & \text{(continuo)} \end{cases} \] Condición de existencia: La FGM existe si la esperanza es finita para \(|t| < \delta\) con \(\delta > 0\).
Demostración: la FGM genera los momentos mediante derivación Queremos ver que \(\mathbb{E}[X^r] = \left.\dfrac{d^r m_X(t)}{dt^r}\right|_{t=0}\). Desarrollamos \(e^{tX}\) en serie de Taylor: \[ e^{tX} = \sum_{r=0}^{\infty} \frac{(tX)^r}{r!} = \sum_{r=0}^{\infty} \frac{t^r X^r}{r!} \] Tomando esperanza: \[ m_X(t) = \mathbb{E}[e^{tX}] = \sum_{r=0}^{\infty} \frac{t^r}{r!} \mathbb{E}[X^r] \] Derivando r veces y evaluando en t=0 obtenemos \(\mathbb{E}[X^r]\).

FGM de distribuciones comunes

FGM de distribuciones comunes (memorizar):

  • \(X \sim \text{Bernoulli}(p)\): \(m_X(t) = 1-p + p e^{t}\)
  • \(X \sim \text{Poisson}(\lambda)\): \(m_X(t) = e^{\lambda(e^{t}-1)}\)
  • \(X \sim \text{Normal}(\mu, \sigma^2)\): \(m_X(t) = e^{\mu t + \frac{1}{2}\sigma^2 t^2}\)
  • \(X \sim \text{Gamma}(\alpha, \beta)\): \(m_X(t) = (1-\beta t)^{-\alpha}\), para \(t < 1/\beta\)
¿La FGM siempre existe? No. Por ejemplo, la distribución de Cauchy no tiene FGM porque la integral diverge. Sin embargo, la función característica \(\varphi_X(t) = \mathbb{E}[e^{itX}]\) siempre existe (se verá en otro módulo).

Ejemplo numérico: Sea \(X \sim \text{Poisson}(\lambda=2)\). Calcule \(\mathbb{E}[X]\) y \(\mathbb{E}[X^2]\) usando la FGM.

Solución: \(m_X(t) = e^{2(e^{t}-1)}\)
\(m_X'(t) = e^{2(e^{t}-1)} \cdot 2e^{t}\) ⇒ \(\mathbb{E}[X] = m_X'(0) = 1 \cdot 2 = 2\)
\(m_X''(t) = m_X'(t) \cdot 2e^{t} + m_X(t) \cdot 2e^{t}\) ⇒ \(\mathbb{E}[X^2] = m_X''(0) = 2 \cdot 2 + 1 \cdot 2 = 6\)
\(\operatorname{var}(X) = \mathbb{E}[X^2] - (\mathbb{E}[X])^2 = 6 - 4 = 2\) (correcto, para Poisson var = λ)

Propiedad de transformación lineal: Si \(Y = a + bX\), entonces \[ m_Y(t) = \mathbb{E}[e^{t(a+bX)}] = e^{ta} \mathbb{E}[e^{tbX}] = e^{ta} m_X(bt) \]

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 6, ej. 1) Sean \(X\) y \(Y\) variables aleatorias con FGM conjunta \(m_{XY}(t,s)\). Considere \(\psi_{XY}(t,s) = \ln(m_{XY}(t,s))\). Demuestre que (a) \(\frac{\partial\psi}{\partial t}(0,0) = \mathbb{E}[X]\), (b) \(\frac{\partial^2\psi}{\partial t^2}(0,0) = \operatorname{var}(X)\), (c) \(\frac{\partial^2\psi}{\partial t\partial s}(0,0) = \operatorname{cov}(X,Y)\). Como \(\psi = \ln m\), tenemos \(m = e^\psi\), y usando la regla de la cadena \(\dfrac{\partial m}{\partial t} = m\cdot\dfrac{\partial\psi}{\partial t}\). Evaluando en \((0,0)\), donde \(m(0,0)=1\): \[ \left.\frac{\partial\psi}{\partial t}\right|_{0,0} = \left.\frac{\partial m}{\partial t}\right|_{0,0} = \mathbb{E}[X]. \quad \text{(a)} \] Derivando otra vez respecto a \(t\): \(\dfrac{\partial^2 m}{\partial t^2} = m\left(\dfrac{\partial\psi}{\partial t}\right)^2 + m\dfrac{\partial^2\psi}{\partial t^2}\). En \((0,0)\): \(\mathbb{E}[X^2] = (\mathbb{E}[X])^2 + \left.\dfrac{\partial^2\psi}{\partial t^2}\right|_{0,0}\), de donde \[ \left.\frac{\partial^2\psi}{\partial t^2}\right|_{0,0} = \mathbb{E}[X^2]-(\mathbb{E}[X])^2 = \operatorname{var}(X). \quad \text{(b)} \] De forma análoga, derivando \(\dfrac{\partial m}{\partial t} = m\dfrac{\partial\psi}{\partial t}\) respecto a \(s\): \(\dfrac{\partial^2 m}{\partial t\partial s} = m\dfrac{\partial\psi}{\partial s}\dfrac{\partial\psi}{\partial t} + m\dfrac{\partial^2\psi}{\partial t\partial s}\). En \((0,0)\): \(\mathbb{E}[XY] = \mathbb{E}[X]\mathbb{E}[Y] + \left.\dfrac{\partial^2\psi}{\partial t\partial s}\right|_{0,0}\), de donde \[ \left.\frac{\partial^2\psi}{\partial t\partial s}\right|_{0,0} = \mathbb{E}[XY]-\mathbb{E}[X]\mathbb{E}[Y] = \operatorname{cov}(X,Y). \quad \text{(c)} \] Por esto \(\psi_{XY}\) se llama la función generadora de cumulantes: sus derivadas en el origen dan directamente medias, varianzas y covarianzas, sin tener que restar términos como en la FGM ordinaria.
Función generadora de momentos

Suma de Variables Aleatorias Independientes

Una de las aplicaciones más importantes de la FGM es encontrar la distribución de sumas de variables independientes.
Demostración: la FGM de una suma de independientes es el producto de sus FGMs Si \(X\) y \(Y\) son independientes: \[ m_{X+Y}(t) = \mathbb{E}[e^{t(X+Y)}] = \mathbb{E}[e^{tX} e^{tY}] \stackrel{\text{ind}}{=} \mathbb{E}[e^{tX}] \cdot \mathbb{E}[e^{tY}] = m_X(t) m_Y(t) \] Por extensión, si \(X_1, \ldots, X_n\) son independientes: \[ m_{S_n}(t) = \prod_{i=1}^n m_{X_i}(t), \quad \text{donde } S_n = \sum_{i=1}^n X_i \]

Suma de dos variables independientes

Ejemplos clásicos por unicidad:

  • \(X_i \sim \text{Bernoulli}(p)\) i.i.d. ⇒ \(\sum_{i=1}^n X_i \sim \text{Bin}(n,p)\)
  • \(X_i \sim \text{Poisson}(\lambda_i)\) independientes ⇒ \(\sum_{i=1}^n X_i \sim \text{Poisson}(\sum \lambda_i)\)
  • \(X_i \sim \text{Normal}(\mu_i, \sigma_i^2)\) independientes ⇒ \(\sum_{i=1}^n X_i \sim \text{Normal}(\sum \mu_i, \sum \sigma_i^2)\)
  • \(X_i \sim \text{Gamma}(\alpha_i, \beta)\) independientes ⇒ \(\sum_{i=1}^n X_i \sim \text{Gamma}(\sum \alpha_i, \beta)\)
Demostración del ejemplo Binomial Sea \(X_i \sim \text{Bernoulli}(p)\) independientes. Su FGM es \(m_X(t) = 1-p + p e^{t}\). Entonces \(m_{S_n}(t) = [m_X(t)]^n = (1-p + p e^{t})^n\), que es la FGM de una \(\text{Bin}(n,p)\). Por el Teorema de Unicidad, \(S_n \sim \text{Bin}(n,p)\).
¿Qué distribución tiene la suma de dos normales independientes? Si \(X \sim N(\mu_X, \sigma_X^2)\) e \(Y \sim N(\mu_Y, \sigma_Y^2)\) independientes: \[ m_{X+Y}(t) = m_X(t) m_Y(t) = e^{\mu_X t + \frac{1}{2}\sigma_X^2 t^2} \cdot e^{\mu_Y t + \frac{1}{2}\sigma_Y^2 t^2} = e^{(\mu_X+\mu_Y) t + \frac{1}{2}(\sigma_X^2+\sigma_Y^2) t^2} \] Esta es la FGM de una \(N(\mu_X+\mu_Y, \sigma_X^2+\sigma_Y^2)\). Por unicidad, esa es la distribución.

Ejemplo numérico: El número de personas que entran a un banco en una hora sigue una Poisson(λ=10). En una hora pico, λ=15. ¿Cuál es la distribución del total en dos horas (una normal + una pico)?

Solución: Como son independientes, \(X_1 \sim \text{Poisson}(10)\), \(X_2 \sim \text{Poisson}(15)\) \[ m_{X_1+X_2}(t) = e^{10(e^t-1)} \cdot e^{15(e^t-1)} = e^{25(e^t-1)} \] Por unicidad, \(X_1+X_2 \sim \text{Poisson}(25)\).

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 6, ej. 3) Sean \(Y_i\sim\text{Geom}(p)\), \(i=1,\ldots,r\), v.a.i.i.d. (número de fracasos hasta el primer éxito). Muestre que \(Y_1+\cdots+Y_r\sim\text{BinNeg}(r,p)\). La FGM de una Geométrica(p) (fracasos hasta el primer éxito) es \(m_Y(t)=\dfrac{p}{1-(1-p)e^t}\), para \(e^t<\frac{1}{1-p}\). Como los \(Y_i\) son independientes: \[ m_{Y_1+\cdots+Y_r}(t) = \prod_{i=1}^r m_{Y_i}(t) = \left(\frac{p}{1-(1-p)e^t}\right)^r. \] Esta es exactamente la FGM de una \(\text{BinNeg}(r,p)\) (número de fracasos hasta el r-ésimo éxito). Por el Teorema de Unicidad, \(Y_1+\cdots+Y_r\sim\text{BinNeg}(r,p)\) — el mismo patrón "suma de i.i.d. ⇒ FGM elevada a una potencia ⇒ distribución identificada por unicidad" usado en los ejemplos de arriba.
Función generadora de momentos

Teorema de Unicidad

El Teorema de Unicidad es fundamental: si dos variables aleatorias tienen la misma FGM en un entorno de 0, entonces tienen la misma distribución. \[ m_X(t) = m_Y(t) \quad \forall |t| < \delta \quad \Rightarrow \quad F_X = F_Y \]

¿Los momentos determinan la distribución? En general, no. Existen distribuciones distintas con los mismos momentos. Ejemplo clásico: la distribución lognormal y una versión "perturbada": \[ f_X(x) = \frac{1}{x\sqrt{2\pi}} e^{-(\log x)^2/2}, \quad x>0 \] \[ f_Y(x) = f_X(x)[1 + \sin(2\pi \log x)], \quad x>0 \] Tienen \(\mathbb{E}[X^r] = \mathbb{E}[Y^r]\) para todo r, pero son distribuciones diferentes. Conclusión: la FGM (cuando existe) es más poderosa que la secuencia de momentos.

Verificación: Momentos de la Normal

0 1.0

Momentos de la Normal(μ, σ²):

  • \(\mathbb{E}[X] = \mu\)
  • \(\mathbb{E}[X^2] = \mu^2 + \sigma^2\)
  • \(\mathbb{E}[X^3] = \mu^3 + 3\mu\sigma^2\)
  • \(\mathbb{E}[X^4] = \mu^4 + 6\mu^2\sigma^2 + 3\sigma^4\)

Fórmula general para momentos centrales de la normal: \[ \mathbb{E}[(X-\mu)^{2k}] = \sigma^{2k} (2k-1)!!, \quad \mathbb{E}[(X-\mu)^{2k+1}] = 0 \] donde \((2k-1)!! = 1 \cdot 3 \cdot 5 \cdots (2k-1)\).

¿Para qué sirve el Teorema de Unicidad? Es la herramienta que usamos para afirmar que si la FGM de una suma coincide con la FGM de una distribución conocida, entonces la suma tiene esa distribución. Sin este teorema, solo sabríamos que los momentos coinciden, pero no la distribución completa.

Ejercicio

Sea \(X\) una variable aleatoria con \(m_X(t) = (0.3+0.7e^{t})^{10}\). Use el Teorema de Unicidad para identificar la distribución de \(X\) sin calcular directamente su f.m.p., y calcule \(\mathbb{E}[X]\) y \(\operatorname{var}(X)\). Reconocemos que \(0.3+0.7e^t = 1-p+pe^t\) con \(p=0.7\) es la FGM de una \(\text{Bernoulli}(0.7)\). Como \(m_X(t)\) es esa FGM elevada a la potencia 10, y sabemos (módulo anterior) que la FGM de una suma de 10 Bernoulli(p) i.i.d. es exactamente \([1-p+pe^t]^{10}\), la FGM de \(X\) coincide con la de una \(\text{Bin}(10, 0.7)\).

Por el Teorema de Unicidad, sin necesidad de derivar ni de conocer la f.m.p. de \(X\), concluimos que \(X\sim\text{Bin}(10,0.7)\), y por lo tanto: \[ \mathbb{E}[X] = np = 10(0.7) = 7, \qquad \operatorname{var}(X) = np(1-p) = 10(0.7)(0.3) = 2.1. \] Esta es la fuerza del teorema: reconocer la "forma" de una FGM ya resuelve el problema por completo.
Función generadora de momentos

FGM Conjunta (Multivariada)

Para un vector aleatorio \((X,Y)\), la FGM conjunta es \[ m_{XY}(u,v) = \mathbb{E}[e^{uX + vY}] \]

Propiedades:

  • FGM marginales: \(m_X(u) = m_{XY}(u,0)\), \(m_Y(v) = m_{XY}(0,v)\)
  • Momentos cruzados: \(\mathbb{E}[X^r Y^s] = \left. \frac{\partial^{r+s}}{\partial u^r \partial v^s} m_{XY}(u,v) \right|_{u=0,v=0}\)
  • Independencia: \(X \perp Y \iff m_{XY}(u,v) = m_X(u) m_Y(v)\)

Ejemplo del PDF (resuelto paso a paso)

Sea \(m_{12}(t_1, t_2) = \exp\left\{ -t_2 + \frac{1}{2}t_1^2 - t_1 t_2 + t_2^2 \right\}\)

Demostración paso a paso del ejemplo a) FGM marginal de X₁: \(m_1(t_1) = m_{12}(t_1, 0) = e^{t_1^2/2}\)
Esta es la FGM de una \(N(0,1)\). Por unicidad, \(X_1 \sim N(0,1)\).
⇒ \(\mathbb{E}[X_1] = 0\), \(\operatorname{var}(X_1) = 1\)

b) FGM marginal de X₂: \(m_2(t_2) = m_{12}(0, t_2) = e^{-t_2 + t_2^2}\)
Derivamos: \(m_2'(t_2) = e^{-t_2 + t_2^2}(-1 + 2t_2)\) ⇒ \(\mathbb{E}[X_2] = m_2'(0) = -1\)
\(m_2''(t_2) = m_2'(t_2)(-1+2t_2) + m_2(t_2)(2)\) ⇒ \(\mathbb{E}[X_2^2] = m_2''(0) = (-1)(-1) + 1\cdot 2 = 3\)
\(\operatorname{var}(X_2) = \mathbb{E}[X_2^2] - (\mathbb{E}[X_2])^2 = 3 - 1 = 2\)

c) Momento conjunto: \(\mathbb{E}[X_1 X_2] = \left. \frac{\partial^2}{\partial t_1 \partial t_2} m_{12}(t_1, t_2) \right|_{0,0}\)
Derivada parcial: \(\frac{\partial m_{12}}{\partial t_2} = m_{12}(t_1, t_2) \cdot (-1 - t_1 + 2t_2)\)
\(\frac{\partial^2}{\partial t_1 \partial t_2} = \frac{\partial m_{12}}{\partial t_1} \cdot (-1 - t_1 + 2t_2) + m_{12} \cdot (-1)\)
Evaluando en (0,0): \(\frac{\partial m_{12}}{\partial t_1} = m_{12} \cdot t_1 \big|_{0,0} = 0\)
⇒ \(\mathbb{E}[X_1 X_2] = 0 \cdot (-1) + 1 \cdot (-1) = -1\)

d) Covarianza y correlación:
\(\operatorname{cov}(X_1, X_2) = \mathbb{E}[X_1 X_2] - \mathbb{E}[X_1]\mathbb{E}[X_2] = -1 - 0 = -1\)
\(\rho = \frac{-1}{\sqrt{1 \cdot 2}} = -\frac{1}{\sqrt{2}} \approx -0.7071\)
¿Cómo se detecta independencia con la FGM conjunta? Si \(m_{XY}(u,v) = m_X(u) m_Y(v)\) para todo \(u,v\) en un entorno de (0,0), entonces \(X\) y \(Y\) son independientes. Esto se debe a que la FGM conjunta factorizada corresponde a la FGM del producto de distribuciones marginales.

Ejercicio

Sea \((X,Y)\) con FGM conjunta \(m_{XY}(u,v) = \exp\{u+2v+u^2+uv+1.5v^2\}\). Encuentre las FGM marginales de \(X\) e \(Y\), identifique sus distribuciones, y calcule \(\operatorname{cov}(X,Y)\). Marginal de X (\(v=0\)): \(m_X(u) = e^{u+u^2}\). Comparando con la forma \(e^{\mu t+\sigma^2 t^2/2}\) de una Normal, aquí \(\mu=1\) y \(\sigma^2/2=1\Rightarrow\sigma^2=2\). Por unicidad, \(X\sim N(1,2)\).

Marginal de Y (\(u=0\)): \(m_Y(v) = e^{2v+1.5v^2}\), así que \(\mu=2\), \(\sigma^2/2=1.5\Rightarrow\sigma^2=3\). Por unicidad, \(Y\sim N(2,3)\).

Covarianza: derivando \(m_{XY}\) igual que en el ejemplo resuelto arriba, \(\mathbb{E}[XY]=\left.\frac{\partial^2 m_{XY}}{\partial u\partial v}\right|_{0,0}=3\), y como \(\mathbb{E}[X]=1\), \(\mathbb{E}[Y]=2\): \[ \operatorname{cov}(X,Y) = \mathbb{E}[XY]-\mathbb{E}[X]\mathbb{E}[Y] = 3-1\cdot2 = 1. \] De hecho, para esta forma de FGM conjunta (exponente cuadrático), el coeficiente del término cruzado \(uv\) es siempre igual a \(\operatorname{cov}(X,Y)\) directamente — aquí el coeficiente de \(uv\) es 1, confirmando el resultado.
Función generadora de momentos

Función Característica

La función característica (FC) se define como \[ \varphi_X(t) = \mathbb{E}[e^{itX}] = \mathbb{E}[\cos(tX)] + i\mathbb{E}[\sin(tX)] \] Ventaja fundamental: Siempre existe para todo \(t \in \mathbb{R}\), mientras que la FGM puede no existir.

Relación FGM ↔ FC: Si la FGM existe, entonces \(\varphi_X(t) = m_X(it)\).

Ejemplos de FC:

  • \(X \sim N(\mu, \sigma^2)\): \(\varphi_X(t) = e^{i\mu t - \frac{1}{2}\sigma^2 t^2}\)
  • \(X \sim \text{Poisson}(\lambda)\): \(\varphi_X(t) = e^{\lambda(e^{it}-1)}\)
  • \(X \sim \text{Bin}(n,p)\): \(\varphi_X(t) = (1-p + p e^{it})^n\)
  • \(X \sim \text{Cauchy}(0,1)\): \(\varphi_X(t) = e^{-|t|}\) (¡no tiene FGM!)

Comparativa: Distribuciones que no tienen FGM

Propiedad de simetría: \(\varphi_X(t)\) es real si y solo si la distribución de \(X\) es simétrica alrededor de 0 (es decir, \(F_X(-x) = 1 - F_X(x)\)). Ejemplo: Cauchy(0,1) tiene \(\varphi(t) = e^{-|t|}\), que es real.

¿Por qué la función característica siempre existe? Porque \(|e^{itX}| = 1\) para todo \(t, X\). Entonces \(|\varphi_X(t)| \le \mathbb{E}[|e^{itX}|] = 1\). La integral (o suma) siempre converge absolutamente, a diferencia de la FGM donde \(e^{tX}\) puede crecer exponencialmente.

Ejercicio

Sean \(X,Y\sim\text{Cauchy}(0,1)\) independientes, con función característica \(\varphi(t)=e^{-|t|}\). Muestre que el promedio \(\frac{X+Y}{2}\) también sigue una distribución Cauchy(0,1). Por independencia, la FC de la suma es el producto de las FC: \[ \varphi_{X+Y}(t) = \varphi_X(t)\varphi_Y(t) = e^{-|t|}e^{-|t|} = e^{-2|t|}. \] Para el promedio, usamos la propiedad de escalamiento \(\varphi_{aZ}(t)=\varphi_Z(at)\) con \(a=1/2\): \[ \varphi_{(X+Y)/2}(t) = \varphi_{X+Y}(t/2) = e^{-2|t/2|} = e^{-|t|}. \] Esta es exactamente la misma función característica de una \(\text{Cauchy}(0,1)\). Por el análogo del Teorema de Unicidad para funciones características, \(\frac{X+Y}{2}\sim\text{Cauchy}(0,1)\).

Este resultado es notable: a diferencia de la Normal (donde el promedio de \(n\) copias se concentra alrededor de la media conforme \(n\) crece, por la Ley de los Grandes Números), el promedio de Cauchys nunca se concentra — sigue siendo Cauchy(0,1) sin importar cuántas se promedien. Esto es consistente con que la Cauchy no tiene media finita.

Distribución multinomial

Distribución multinomial

De Binomial a Trinomial

La distribución binomial cuenta cuántos ensayos caen en una categoría (éxito) vs el resto. La distribución trinomial extiende esto a tres categorías mutuamente excluyentes y exhaustivas.

Repaso: Distribución Binomial
En un experimento con 2 categorías (C₁, C₂) donde \(p_1 + p_2 = 1\): \[ \mathbb{P}(X_1 = x_1, X_2 = x_2) = \frac{n!}{x_1! x_2!} p_1^{x_1} p_2^{x_2} \cdot \mathbb{1}_{\{x_1 + x_2 = n\}} \] donde \(X_2 = n - X_1\), por lo que la binomial es un caso particular.

Derivación de la Trinomial (3 categorías) Sean C₁, C₂, C₃ con probabilidades \(p_1, p_2, p_3\) donde \(p_1 + p_2 + p_3 = 1\). Para \(x_1, x_2, x_3\) con \(x_1 + x_2 + x_3 = n\): \[ \begin{align*} \mathbb{P}(X_1 = x_1, X_2 = x_2, X_3 = x_3) &= \binom{n}{x_1} p_1^{x_1} \binom{n-x_1}{x_2} p_2^{x_2} p_3^{n-x_1-x_2} \\ &= \frac{n!}{x_1!(n-x_1)!} \cdot \frac{(n-x_1)!}{x_2!(n-x_1-x_2)!} p_1^{x_1} p_2^{x_2} p_3^{n-x_1-x_2} \\ &= \frac{n!}{x_1! x_2! x_3!} p_1^{x_1} p_2^{x_2} p_3^{x_3} \end{align*} \] donde \(x_3 = n - x_1 - x_2\).

Simulación: Clasificación en 3 categorías

0.30 0.20 20

Ejemplo numérico: En una escuela, el 60% de los estudiantes prefieren matemáticas, el 25% física y el 15% química. Si se eligen 10 estudiantes al azar, ¿cuál es la probabilidad de que 5 prefieran matemáticas, 3 física y 2 química?

Solución: \[ \mathbb{P} = \frac{10!}{5!3!2!} (0.6)^5 (0.25)^3 (0.15)^2 \] \[ = \frac{3628800}{120 \cdot 6 \cdot 2} \cdot 0.07776 \cdot 0.015625 \cdot 0.0225 \] \[ = 2520 \cdot 0.0000273 = 0.0688 \]

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 8, ej. 1) Un dado honesto se lanza siete veces de manera independiente. Calcule la probabilidad condicional de que las otras cinco caras hayan salido, cada una, exactamente una vez, dado que la cara 1 salió dos veces exactamente. Sea \(\mathbf{N}=(N_1,\ldots,N_6)\sim\text{Multinomial}(7, 1/6,\ldots,1/6)\). Condicionado a \(N_1=2\), los 5 lanzamientos restantes se distribuyen entre las otras 5 caras con probabilidades renormalizadas \(p_i/(1-p_1) = (1/6)/(5/6) = 1/5\) cada una — es decir, condicional a \(N_1=2\), \((N_2,\ldots,N_6)\sim\text{Multinomial}(5, 1/5,\ldots,1/5)\). Buscamos \(\mathbb{P}(N_2=\cdots=N_6=1)\): \[ \mathbb{P}(N_2=\cdots=N_6=1 \mid N_1=2) = \frac{5!}{1!1!1!1!1!}\left(\frac{1}{5}\right)^5 = \frac{120}{3125} = 0.0384. \] Esta técnica — condicionar sobre el conteo de una categoría para obtener una multinomial más pequeña sobre las categorías restantes — es exactamente la misma idea usada en la derivación de la trinomial de arriba, aplicada de forma recursiva.
Distribución multinomial

Distribución Multinomial General

La distribución multinomial generaliza la trinomial a \(k\) categorías. \[ \mathbf{X} = (X_1, \ldots, X_k) \sim \text{Multinomial}(n, p_1, \ldots, p_k) \] con \(\sum_{i=1}^k p_i = 1\) y \(\sum_{i=1}^k X_i = n\).

Función de masa de probabilidad conjunta: \[ f_{\mathbf{X}}(x_1, \ldots, x_k) = \binom{n}{x_1 \cdots x_k} p_1^{x_1} \cdots p_k^{x_k} \cdot \mathbb{1}_{\{x_i \in \mathbb{N}_0, \sum x_i = n\}} \] donde \(\binom{n}{x_1 \cdots x_k} = \frac{n!}{x_1! \cdots x_k!}\) es el coeficiente multinomial.

Verificación de que es una f.m.p. propia Por el teorema multinomial: \[ (p_1 + \cdots + p_k)^n = \sum_{\{x_i: \sum x_i = n\}} \binom{n}{x_1 \cdots x_k} p_1^{x_1} \cdots p_k^{x_k} \] Como \(p_1 + \cdots + p_k = 1\), la suma es 1, verificando que la probabilidad total es 1.

Explora la Multinomial con k=4 categorías

30

Propiedades fundamentales:

  • Distribución marginal: \(X_i \sim \text{Bin}(n, p_i)\)
  • \(\mathbb{E}[X_i] = n p_i\)
  • \(\operatorname{var}(X_i) = n p_i (1-p_i)\)
  • \(\operatorname{cov}(X_i, X_j) = -n p_i p_j\) (para \(i \neq j\))
  • \(\operatorname{corr}(X_i, X_j) = -\sqrt{\frac{p_i p_j}{(1-p_i)(1-p_j)}}\)
¿Por qué la covarianza entre dos categorías es negativa? Demostración: Sea \(X_i = \sum_{u=1}^n \mathbb{1}_{C_i}(e_u)\). Para \(u = v\), \(\text{cov}(\mathbb{1}_{C_i}(e_u), \mathbb{1}_{C_j}(e_u)) = \mathbb{E}[\mathbb{1}_{C_i}\mathbb{1}_{C_j}] - p_i p_j = -p_i p_j\) porque el producto es 0 (categorías excluyentes). Para \(u \neq v\), por independencia, la covarianza es 0. Entonces \(\text{cov}(X_i, X_j) = \sum_{u=1}^n (-p_i p_j) = -n p_i p_j\).

Ejemplo numérico (del PDF): Para \(X \sim \text{Multinomial}(n=100, p_1=0.3, p_2=0.2, p_3=0.5)\):
\(\mathbb{E}[X_1] = 100 \cdot 0.3 = 30\)
\(\operatorname{var}(X_1) = 100 \cdot 0.3 \cdot 0.7 = 21\)
\(\operatorname{cov}(X_1, X_2) = -100 \cdot 0.3 \cdot 0.2 = -6\)
\(\operatorname{corr}(X_1, X_2) = \frac{-6}{\sqrt{21 \cdot 100 \cdot 0.2 \cdot 0.8}} = \frac{-6}{\sqrt{21 \cdot 16}} = \frac{-6}{\sqrt{336}} \approx -0.327\)

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 8, ej. 2) Tres monedas honestas se lanzan 10 veces. Sea \(X_i\) el número de veces que se obtuvieron \(i\) águilas, \(i=0,1,2,3\) (note que \(X_0+X_1+X_2+X_3=10\)). Calcule \(\mathbb{P}(X_0+X_1=6)\). En cada uno de los 10 lanzamientos de las 3 monedas, el número de águilas sigue \(\text{Bin}(3,0.5)\), así que las probabilidades de categoría son \(p_i=\binom{3}{i}(0.5)^3\): \(p_0=1/8\), \(p_1=3/8\), \(p_2=3/8\), \(p_3=1/8\).

Usando la propiedad marginal de la multinomial (agrupar categorías también da una multinomial): la categoría "0 o 1 águilas" tiene probabilidad \(p_0+p_1=1/8+3/8=1/2\), y por lo tanto \(X_0+X_1\sim\text{Bin}(10, 1/2)\): \[ \mathbb{P}(X_0+X_1=6) = \binom{10}{6}(0.5)^{10} = \frac{210}{1024} \approx 0.2051. \] Esto ilustra que agrupar categorías de una multinomial siempre produce otra multinomial (o binomial, si solo quedan dos grupos) sobre las probabilidades sumadas — la misma propiedad marginal \(X_i\sim\text{Bin}(n,p_i)\) mencionada arriba, aplicada a un grupo de categorías en vez de una sola.
Distribución multinomial

FGM Conjunta de la Multinomial

La FGM conjunta es una herramienta poderosa para derivar propiedades de la multinomial.

Teorema: Sea \(\mathbf{X} \sim \text{Multinomial}(n, p_1, \ldots, p_k)\). Entonces \[ m_{\mathbf{X}}(\mathbf{t}) = \mathbb{E}[e^{\mathbf{t}^T \mathbf{X}}] = (p_1 e^{t_1} + p_2 e^{t_2} + \cdots + p_k e^{t_k})^n \]

Demostración (usando el teorema multinomial) \[ \begin{align*} m_{\mathbf{X}}(\mathbf{t}) &= \sum_{x_1+\cdots+x_k=n} \frac{n!}{x_1!\cdots x_k!} p_1^{x_1}\cdots p_k^{x_k} e^{t_1 x_1 + \cdots + t_k x_k} \\ &= \sum_{x_1+\cdots+x_k=n} \frac{n!}{x_1!\cdots x_k!} (p_1 e^{t_1})^{x_1} \cdots (p_k e^{t_k})^{x_k} \\ &= (p_1 e^{t_1} + \cdots + p_k e^{t_k})^n \end{align*} \] donde el último paso es precisamente el teorema multinomial: \[ (a_1 + \cdots + a_k)^n = \sum_{x_1+\cdots+x_k=n} \frac{n!}{x_1!\cdots x_k!} a_1^{x_1} \cdots a_k^{x_k} \]

FGM conjunta para k=2 (Binomial)

Para \(X \sim \text{Bin}(n, p)\), la FGM es \(m_X(t) = (1-p + p e^{t})^n\)

10 0.30

Ejemplo: Calcular \(\mathbb{E}[X_1 X_2]\) usando la FGM conjunta
Para k=2, \(m_{X_1,X_2}(t_1, t_2) = (p_1 e^{t_1} + p_2 e^{t_2})^n\). \[ \frac{\partial^2 m}{\partial t_1 \partial t_2} = n(n-1)(p_1 e^{t_1} + p_2 e^{t_2})^{n-2} \cdot p_1 e^{t_1} \cdot p_2 e^{t_2} \] Evaluando en \(t_1=t_2=0\): \[ \mathbb{E}[X_1 X_2] = n(n-1) p_1 p_2 \] De aquí, \(\text{cov}(X_1, X_2) = n(n-1)p_1 p_2 - np_1 \cdot np_2 = -n p_1 p_2\).

Ejercicio

Use la FGM marginal de \(X_1\) (que se obtiene evaluando \(t_2=\cdots=t_k=0\) en la FGM conjunta) para verificar, derivando dos veces, que \(\operatorname{var}(X_1)=np_1(1-p_1)\). Con \(t_2=\cdots=t_k=0\), la FGM conjunta se reduce a \(m_1(t)=(p_1e^t + q_1)^n\), con \(q_1=1-p_1\) (la FGM de una Binomial(n,p₁), consistente con la propiedad marginal). Derivando: \[ m_1'(t) = n(p_1e^t+q_1)^{n-1}p_1e^t \implies m_1'(0) = np_1 = \mathbb{E}[X_1]. \] Derivando otra vez (regla del producto): \[ m_1''(t) = n(n-1)(p_1e^t+q_1)^{n-2}(p_1e^t)^2 + n(p_1e^t+q_1)^{n-1}p_1e^t. \] Evaluando en \(t=0\) (donde \(p_1+q_1=1\)): \[ m_1''(0) = n(n-1)p_1^2 + np_1 = \mathbb{E}[X_1^2]. \] Entonces: \[ \operatorname{var}(X_1) = \mathbb{E}[X_1^2]-(\mathbb{E}[X_1])^2 = n(n-1)p_1^2+np_1 - n^2p_1^2 = np_1 - np_1^2 = np_1(1-p_1). \] Confirma la fórmula ya conocida, esta vez obtenida puramente por diferenciación de la FGM, sin usar la representación como suma de indicadoras.
Distribución multinomial

Aplicación: Costo de reparación

Problema (Wackerly et al., Ej. 5.120): Una muestra de \(n\) artículos. \(p_1\) = proporción con 1 defecto, \(p_2\) = proporción con más de 1 defecto. Costo de reparación: \(C = Y_1 + 3Y_2\), donde \(Y_1\) = número con 1 defecto, \(Y_2\) = número con más de 1 defecto.

Solución teórica (paso a paso):

Paso 1: Identificar la distribución
\((Y_0, Y_1, Y_2) \sim \text{Multinomial}(n, p_0, p_1, p_2)\) con \(p_0 = 1-p_1-p_2\).

Paso 2: Esperanza de C \[ \mathbb{E}[C] = \mathbb{E}[Y_1] + 3\mathbb{E}[Y_2] = n p_1 + 3n p_2 = n(p_1 + 3p_2) \] Para \(n=100, p_1=0.3, p_2=0.2\): \(\mathbb{E}[C] = 100(0.3 + 0.6) = 90\)

Paso 3: Varianza de C \[ \begin{align*} \operatorname{var}(C) &= \operatorname{var}(Y_1) + 9\operatorname{var}(Y_2) + 2\cdot 3 \cdot \operatorname{cov}(Y_1, Y_2) \\ &= n p_1(1-p_1) + 9n p_2(1-p_2) - 6n p_1 p_2 \\ &= n[p_1(1-p_1) + 9p_2(1-p_2) - 6p_1 p_2] \end{align*} \] Para \(n=100, p_1=0.3, p_2=0.2\): \[ \begin{align*} \operatorname{var}(C) &= 100[0.3\cdot0.7 + 9\cdot0.2\cdot0.8 - 6\cdot0.3\cdot0.2] \\ &= 100[0.21 + 9\cdot0.16 - 0.36] \\ &= 100[0.21 + 1.44 - 0.36] = 100 \cdot 1.29 = 129 \end{align*} \]

Simulador de costos

100 0.30 0.20
¿Qué pasa con el costo esperado si duplicamos p₂? Si \(p_2\) pasa de 0.2 a 0.4 (reduciendo \(p_0\)): \(\mathbb{E}[C] = 100(0.3 + 3\cdot0.4) = 100(0.3+1.2) = 150\) (aumenta de 90 a 150). La varianza también aumenta significativamente por el término \(9p_2(1-p_2)\).

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 8, ej. 3) Cincuenta recién egresados de preparatoria fueron elegidos aleatoriamente y se les preguntó qué carrera estudiarían en el ITAM. Sus preferencias fueron: 25 por Economía, 10 por Actuaría y Finanzas, 5 por Ciencia de Datos y 10 por Matemáticas Aplicadas. Suponiendo que, a priori, las cuatro carreras fueran igualmente populares (\(p_i=1/4\) cada una), ¿qué tan probable es este resultado exacto? Sea \((X_1,X_2,X_3,X_4)\sim\text{Multinomial}(n=50, p_1=p_2=p_3=p_4=1/4)\), con el resultado observado \((25,10,5,10)\). Usando la f.m.p. conjunta: \[ \mathbb{P} = \frac{50!}{25!\,10!\,5!\,10!}\left(\frac{1}{4}\right)^{50} \approx 9.8\times10^{-7}. \] Es decir, si las cuatro carreras fueran realmente igual de populares, este resultado exacto ocurriría en aproximadamente 1 de cada millón muestras de este tamaño — extremadamente improbable. Esto sugiere fuertemente que las carreras no son igualmente preferidas entre los egresados (en particular, Economía parece mucho más popular que \(1/4\)). Este tipo de razonamiento —comparar la probabilidad observada contra una hipótesis de "igual de probable"— es la idea central detrás de las pruebas de bondad de ajuste (chi-cuadrada) que generalizan este cálculo.
Distribución multinomial

Correlación entre categorías

El coeficiente de correlación entre \(X_i\) y \(X_j\) (con \(i \neq j\)) es siempre negativo, reflejando la relación de compensación entre categorías.

Fórmula de correlación: \[ \rho_{ij} = \operatorname{corr}(X_i, X_j) = \frac{\operatorname{cov}(X_i, X_j)}{\sqrt{\operatorname{var}(X_i)\operatorname{var}(X_j)}} = -\sqrt{\frac{p_i p_j}{(1-p_i)(1-p_j)}} \]

Demostración \[ \begin{align*} \rho_{ij} &= \frac{-n p_i p_j}{\sqrt{n p_i(1-p_i) \cdot n p_j(1-p_j)}} \\ &= \frac{-n p_i p_j}{n \sqrt{p_i p_j (1-p_i)(1-p_j)}} \\ &= -\frac{\sqrt{p_i p_j}}{\sqrt{(1-p_i)(1-p_j)}} \\ &= -\sqrt{\frac{p_i p_j}{(1-p_i)(1-p_j)}} \end{align*} \]

Visualización de la correlación negativa

0.40 0.30 50
¿Puede la correlación ser cero? Solo en el caso límite cuando \(p_i = 0\) o \(p_j = 0\). Para cualquier \(p_i, p_j > 0\), la correlación es estrictamente negativa. Esto refleja que si una categoría aumenta, la otra necesariamente debe disminuir (pues la suma total es fija).

Ejemplo numérico: Para \(p_1=0.5, p_2=0.3\): \[ \rho_{12} = -\sqrt{\frac{0.5 \cdot 0.3}{(1-0.5)(1-0.3)}} = -\sqrt{\frac{0.15}{0.5 \cdot 0.7}} = -\sqrt{\frac{0.15}{0.35}} = -\sqrt{0.4286} \approx -0.6547 \] Verifica en el simulador: el gráfico de dispersión mostrará una tendencia negativa.

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 8, ej. 4b) Se hacen 20 observaciones independientes de una población \(R\) con f.d.p. \(f(r)=(1-|r|)\mathbb{I}_{(-1,1)}(r)\). El intervalo \((-1,1)\) se divide en 4 subintervalos de igual longitud: \((-1,-0.5)\), \((-0.5,0)\), \((0,0.5)\), \((0.5,1)\). Sea \(X_i\) el número de observaciones en el \(i\)-ésimo subintervalo. Determine la correlación entre \(X_1\) y \(X_4\). Primero calculamos \(p_1=\mathbb{P}(R\in(-1,-0.5))\). Por simetría de \(f\) (par), \(p_1=p_4=\mathbb{P}(R\in(0.5,1))\), donde en ese rango \(f(r)=1-r\): \[ p_4 = \int_{0.5}^{1}(1-r)\,dr = \left[r-\frac{r^2}{2}\right]_{0.5}^{1} = (1-0.5)-(0.5-0.125) = 0.125. \] Así, \(p_1=p_4=0.125\). Con las 20 observaciones independientes, \((X_1,X_2,X_3,X_4)\sim\text{Multinomial}(20, 0.125, 0.375, 0.375, 0.125)\) (los subintervalos centrales tienen \(p_2=p_3=0.375\) por el mismo cálculo, aunque no se necesitan aquí). Aplicando la fórmula de correlación: \[ \rho_{14} = -\sqrt{\frac{p_1 p_4}{(1-p_1)(1-p_4)}} = -\sqrt{\frac{0.125^2}{0.875^2}} = -\frac{0.125}{0.875} = -\frac{1}{7} \approx -0.1429. \] Nótese que \(n=20\) no aparece en el resultado: la correlación entre dos categorías de una multinomial depende solo de sus probabilidades \(p_i, p_j\), nunca del número de ensayos.

Distribución normal multivariada

Distribución normal multivariada

Distribución Normal Bivariada

La distribución normal bivariada es la generalización natural de la normal univariada a dos dimensiones. Su función de densidad es: \[ f(x_1, x_2) = \frac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}} \exp\left\{-\frac{1}{2(1-\rho^2)}\left[\left(\frac{x_1-\mu_1}{\sigma_1}\right)^2 - 2\rho\left(\frac{x_1-\mu_1}{\sigma_1}\right)\left(\frac{x_2-\mu_2}{\sigma_2}\right) + \left(\frac{x_2-\mu_2}{\sigma_2}\right)^2\right]\right\} \]

Visualización interactiva de la normal bivariada

0 0 1.0 1.0 0.00

Interpretación geométrica: El exponente es una forma cuadrática que define elipses. \[ Q(x_1, x_2) = \frac{1}{1-\rho^2}\left[\left(\frac{x_1-\mu_1}{\sigma_1}\right)^2 - 2\rho\left(\frac{x_1-\mu_1}{\sigma_1}\right)\left(\frac{x_2-\mu_2}{\sigma_2}\right) + \left(\frac{x_2-\mu_2}{\sigma_2}\right)^2\right] \] Las curvas de nivel (donde \(f\) es constante) son elipses centradas en \((\mu_1, \mu_2)\).

Demostración: la normal bivariada tiene marginales normales Para obtener \(f_1(x_1)\), integramos respecto a \(x_2\): \[ f_1(x_1) = \int_{-\infty}^{\infty} f(x_1, x_2) dx_2 \] Con el cambio de variable \(z_i = \frac{x_i - \mu_i}{\sigma_i}\) y completando cuadrados: \[ f_1(x_1) = \frac{1}{\sqrt{2\pi}\sigma_1} e^{-\frac{1}{2}z_1^2} \cdot \underbrace{\frac{1}{\sqrt{2\pi}\sqrt{1-\rho^2}} \int_{-\infty}^{\infty} e^{-\frac{1}{2}\left(\frac{z_2 - \rho z_1}{\sqrt{1-\rho^2}}\right)^2} dz_2}_{=1} \] Por lo tanto, \(X_1 \sim N(\mu_1, \sigma_1^2)\). Análogamente para \(X_2\).
¿Qué pasa con la densidad cuando ρ = 0? Cuando ρ = 0, la densidad se factoriza: \[ f(x_1, x_2) = \frac{1}{\sqrt{2\pi}\sigma_1} e^{-\frac{1}{2}\left(\frac{x_1-\mu_1}{\sigma_1}\right)^2} \cdot \frac{1}{\sqrt{2\pi}\sigma_2} e^{-\frac{1}{2}\left(\frac{x_2-\mu_2}{\sigma_2}\right)^2} = f_1(x_1)f_2(x_2) \] Esto significa que \(X_1\) y \(X_2\) son independientes. En la normal bivariada, correlación cero ⇔ independencia.

Ejemplo del PDF: Para \(X_1 \sim N(0,1)\), \(X_2 \sim N(2,4)\) con \(\rho = 0.5\):
La densidad conjunta es \(f(x_1, x_2) = \frac{1}{2\pi \cdot 1 \cdot 2 \cdot \sqrt{1-0.25}} \exp\{-\frac{1}{2(0.75)}[x_1^2 - 2(0.5)x_1(\frac{x_2-2}{2}) + (\frac{x_2-2}{2})^2]\}\)
Las marginales: \(X_1 \sim N(0,1)\), \(X_2 \sim N(2,4)\).

Ejercicio

Sea \((X_1,X_2)\) normal bivariada con \(X_1\sim N(1,4)\), \(X_2\sim N(-2,9)\) y \(\rho=0\). Use la propiedad de factorización para evaluar \(f(3,-5)\). Como \(\rho=0\), \(f(x_1,x_2)=f_1(x_1)f_2(x_2)\). Evaluando cada marginal: \[ f_1(3) = \frac{1}{2\sqrt{2\pi}}e^{-(3-1)^2/(2\cdot4)} = \frac{1}{2\sqrt{2\pi}}e^{-0.5} \approx 0.1210, \] \[ f_2(-5) = \frac{1}{3\sqrt{2\pi}}e^{-(-5+2)^2/(2\cdot9)} = \frac{1}{3\sqrt{2\pi}}e^{-0.5} \approx 0.0807. \] Entonces: \[ f(3,-5) = f_1(3)\cdot f_2(-5) \approx 0.1210\times0.0807 \approx 0.00976. \]
Distribución normal multivariada

Distribuciones Condicionales

Una propiedad clave de la normal bivariada es que las distribuciones condicionales también son normales.

Teorema: Si \((X_1, X_2)\) es normal bivariada, entonces \[ (X_1 \mid X_2 = x_2) \sim N\left(\mu_1 + \rho\frac{\sigma_1}{\sigma_2}(x_2 - \mu_2),\; \sigma_1^2(1-\rho^2)\right) \] \[ (X_2 \mid X_1 = x_1) \sim N\left(\mu_2 + \rho\frac{\sigma_2}{\sigma_1}(x_1 - \mu_1),\; \sigma_2^2(1-\rho^2)\right) \]

Demostración de la distribución condicional \[ f(x_1|x_2) = \frac{f(x_1, x_2)}{f_2(x_2)} \] Completando cuadrados en \(x_1\): \[ f(x_1|x_2) \propto \exp\left\{-\frac{1}{2\sigma_1^2(1-\rho^2)}\left[x_1 - \left(\mu_1 + \rho\frac{\sigma_1}{\sigma_2}(x_2 - \mu_2)\right)\right]^2\right\} \] que es el núcleo de una normal con la media y varianza indicadas.

Explora las distribuciones condicionales

0 0 1.0 1.0 0.70 1.0
¿Qué pasa con la varianza condicional cuando |ρ| → 1? Cuando \(|\rho| \to 1\), \(\sigma_1^2(1-\rho^2) \to 0\). Esto significa que si conocemos \(X_2\), sabemos casi con certeza el valor de \(X_1\). En el límite, la relación es lineal perfecta.

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 8, ej. 6) Las longitudes en centímetros de ala a ala (X) y de pico a cola (Y) de cierto tipo de aves siguen una distribución normal bivariada con \(\mathbb{E}[X]=40\), \(\operatorname{var}(X)=76\), \(\mathbb{E}[Y]=30\), \(\operatorname{var}(Y)=32\), \(\operatorname{var}(X|Y=28.5)=57\). Suponga \(\operatorname{cov}(X,Y)>0\). Determine la probabilidad de que un ave tenga una longitud de pico a cola menor a 21 cm, dado que su longitud de ala a ala es 25 cm. Primero encontramos \(\rho\) a partir de la fórmula de varianza condicional \(\operatorname{var}(X|Y=y)=\sigma_X^2(1-\rho^2)\): \[ 57 = 76(1-\rho^2) \implies 1-\rho^2 = 0.75 \implies \rho^2=0.25 \implies \rho=0.5 \quad (\text{positivo, pues } \operatorname{cov}(X,Y)>0). \] Ahora necesitamos \(\mathbb{P}(Y<21\mid X=25)\), usando el teorema de esta página (con los papeles de \(X_1,X_2\) intercambiados): \[ \mathbb{E}[Y|X=25] = \mu_Y + \rho\frac{\sigma_Y}{\sigma_X}(25-\mu_X) = 30 + 0.5\cdot\frac{\sqrt{32}}{\sqrt{76}}(25-40) \approx 25.13, \] \[ \operatorname{var}(Y|X=25) = \sigma_Y^2(1-\rho^2) = 32(0.75) = 24. \] Entonces: \[ \mathbb{P}(Y<21\mid X=25) = \Phi\left(\frac{21-25.13}{\sqrt{24}}\right) = \Phi(-0.844) \approx 0.1994. \]
Distribución normal multivariada

Normal Multivariada General

La distribución normal multivariada de dimensión \(p\) se define como: \[ \mathbf{X} \sim N_p(\boldsymbol{\mu}, \boldsymbol{\Sigma}) \] con función de densidad (si \(\boldsymbol{\Sigma}\) es definida positiva): \[ f(\mathbf{x}) = (2\pi)^{-p/2} |\boldsymbol{\Sigma}|^{-1/2} \exp\left\{-\frac{1}{2}(\mathbf{x} - \boldsymbol{\mu})^T \boldsymbol{\Sigma}^{-1} (\mathbf{x} - \boldsymbol{\mu})\right\} \]

Propiedades fundamentales:

  • Marginales: Cualquier subvector es normal multivariado.
  • Condicionales: También son normales.
  • Transformaciones lineales: Si \(\mathbf{Y} = \mathbf{A}\mathbf{X}\), entonces \(\mathbf{Y} \sim N_q(\mathbf{A}\boldsymbol{\mu}, \mathbf{A}\boldsymbol{\Sigma}\mathbf{A}^T)\).
  • Independencia: Las componentes son independientes si y solo si \(\boldsymbol{\Sigma}\) es diagonal.
Demostración de transformaciones lineales (usando FGM) La FGM de \(\mathbf{X}\) es \(m_{\mathbf{X}}(\mathbf{t}) = \exp\{\mathbf{t}^T\boldsymbol{\mu} + \frac{1}{2}\mathbf{t}^T\boldsymbol{\Sigma}\mathbf{t}\}\).

Para \(\mathbf{Y} = \mathbf{A}\mathbf{X}\): \[ m_{\mathbf{Y}}(\mathbf{t}) = \mathbb{E}[e^{\mathbf{t}^T\mathbf{A}\mathbf{X}}] = \mathbb{E}[e^{(\mathbf{A}^T\mathbf{t})^T\mathbf{X}}] = \exp\{(\mathbf{A}^T\mathbf{t})^T\boldsymbol{\mu} + \frac{1}{2}(\mathbf{A}^T\mathbf{t})^T\boldsymbol{\Sigma}(\mathbf{A}^T\mathbf{t})\} \] \[ = \exp\{\mathbf{t}^T(\mathbf{A}\boldsymbol{\mu}) + \frac{1}{2}\mathbf{t}^T(\mathbf{A}\boldsymbol{\Sigma}\mathbf{A}^T)\mathbf{t}\} \] que es la FGM de \(N_q(\mathbf{A}\boldsymbol{\mu}, \mathbf{A}\boldsymbol{\Sigma}\mathbf{A}^T)\).

Visualización de transformaciones lineales

45° 1.0 2.0

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 8, ej. 5) Sean \(X_1, X_2, X_3\) variables aleatorias independientes tales que \(X_1\) y \(X_3\) se distribuyen \(N(1,1)\) y \(X_2\) se distribuye \(N(0,1)\). Defina \(Y_1=X_1+2X_2\) y \(Y_2=X_2+3X_3\). Determine \(\mathbb{P}(Y_2>4\mid Y_1=2)\). Como \((Y_1,Y_2)\) es una transformación lineal del vector normal independiente \((X_1,X_2,X_3)\), por la propiedad de esta página \((Y_1,Y_2)\) es normal bivariada. Calculamos sus parámetros directamente (sin necesidad de la notación matricial \(\mathbf{A}\boldsymbol{\Sigma}\mathbf{A}^T\), aunque es exactamente lo que hay detrás): \[ \mathbb{E}[Y_1]=1+2(0)=1,\quad \mathbb{E}[Y_2]=0+3(1)=3, \] \[ \operatorname{var}(Y_1)=\operatorname{var}(X_1)+4\operatorname{var}(X_2)=1+4=5,\quad \operatorname{var}(Y_2)=\operatorname{var}(X_2)+9\operatorname{var}(X_3)=1+9=10, \] \[ \operatorname{cov}(Y_1,Y_2)=\operatorname{cov}(X_1+2X_2,\,X_2+3X_3)=2\operatorname{var}(X_2)=2 \] (los demás términos se anulan porque \(X_1,X_2,X_3\) son independientes). Entonces \(\rho=\dfrac{2}{\sqrt{5\cdot10}}=\dfrac{2}{\sqrt{50}}\approx0.2828\). Usando el teorema de la condicional normal (módulo anterior): \[ \mathbb{E}[Y_2\mid Y_1=2] = 3 + \frac{2}{5}(2-1) = 3.4, \qquad \operatorname{var}(Y_2\mid Y_1=2) = 10(1-\rho^2) = 9.2. \] Finalmente: \[ \mathbb{P}(Y_2>4\mid Y_1=2) = 1-\Phi\left(\frac{4-3.4}{\sqrt{9.2}}\right) = 1-\Phi(0.198) \approx 0.4216. \]
Distribución normal multivariada

Descomposición Espectral y Componentes Principales

La descomposición espectral de \(\boldsymbol{\Sigma}\) es: \[ \boldsymbol{\Sigma} = \mathbf{Q} \boldsymbol{\Lambda} \mathbf{Q}^T \] donde \(\mathbf{Q}\) es ortogonal (\(\mathbf{Q}\mathbf{Q}^T = \mathbf{I}\)) y \(\boldsymbol{\Lambda} = \text{diag}(\lambda_1, \ldots, \lambda_p)\).

Teorema: Si \(\mathbf{X} \sim N_p(\boldsymbol{\mu}, \boldsymbol{\Sigma})\) y \(\mathbf{Y} = \mathbf{Q}^T \mathbf{X}\), entonces \[ \mathbf{Y} \sim N_p(\mathbf{Q}^T\boldsymbol{\mu}, \boldsymbol{\Lambda}) \] Es decir, las componentes de \(\mathbf{Y}\) son independientes y \(\text{var}(Y_i) = \lambda_i\).

Ejemplo del PDF: Vector 5-dimensional

\(\mathbf{X} \sim N_5(\boldsymbol{\mu}, \boldsymbol{\Sigma})\) con:

μ = [0, 1, -1, 2, 0]ᵀ
Σ =
⎡ 1 0 -1 1 0 ⎤
⎢ 0 2 -1 0 1 ⎥
⎢-1 -1 3 -1 0 ⎥
⎢ 1 0 -1 4 1 ⎥
⎣ 0 1 0 1 5 ⎦
Ejemplo resuelto (del PDF) a) \(X_5 \sim N(0,5)\) (marginal)
b) \(\text{cov}(X_1, X_4) = 1\), \(\rho_{14} = \frac{1}{\sqrt{1\cdot4}} = 0.5\)
c) \(\begin{pmatrix}X_3 \\ X_2\end{pmatrix} \sim N_2\left(\begin{pmatrix}-1 \\ 1\end{pmatrix}, \begin{pmatrix}3 & -1 \\ -1 & 2\end{pmatrix}\right)\)
d) \(\text{cov}(X_2, X_4) = 0\) ⇒ independientes (por normalidad)
e) \((X_4|X_1=-2) \sim N(0, 4(1-0.5^2)) = N(0,3)\)
f) \(\mathbb{P}(X_4 - X_2 > 0) = \Phi(1/\sqrt{6}) \approx 0.6584\)

Variación total y proporciones acumuladas:
\(\text{vartot}(\mathbf{X}) = \text{tr}(\boldsymbol{\Sigma}) = 1+2+3+4+5 = 15\)
Valores propios (del cálculo R en el PDF): λ = [5.423, 5.064, 2.869, 1.247, 0.397]
δ₁ = 5.423/15 = 0.3615, δ₂ = 0.3376, δ₃ = 0.1913, δ₄ = 0.0831, δ₅ = 0.0265
Proporciones acumuladas: 0.362, 0.699, 0.890, 0.974, 1.000
¡Las primeras 3 componentes explican el 89% de la variación total!

¿Para qué sirve la descomposición espectral? Es la base del Análisis de Componentes Principales (PCA). Permite reducir la dimensionalidad: en lugar de trabajar con las p variables originales (correlacionadas), trabajamos con las primeras k componentes (independientes) que explican la mayor parte de la variación.

Ejercicio

Sea \(\mathbf{X}\sim N_2(\boldsymbol{\mu}, \boldsymbol{\Sigma})\) con \(\boldsymbol{\Sigma}=\begin{pmatrix}4 & 2\\ 2 & 4\end{pmatrix}\). Encuentre la descomposición espectral (eigenvalores y eigenvectores) y determine qué proporción de la variación total explica la primera componente principal. Los eigenvalores satisfacen \(\det(\boldsymbol{\Sigma}-\lambda I)=0\): \[ (4-\lambda)^2 - 4 = 0 \implies 4-\lambda = \pm2 \implies \lambda_1=6,\ \lambda_2=2. \] Para \(\lambda_1=6\): \((4-6)v_1+2v_2=0 \implies v_1=v_2\), eigenvector normalizado \(\frac{1}{\sqrt2}(1,1)^T\).
Para \(\lambda_2=2\): \((4-2)v_1+2v_2=0 \implies v_1=-v_2\), eigenvector normalizado \(\frac{1}{\sqrt2}(1,-1)^T\).

Verificación: \(\text{vartot}(\mathbf{X})=\text{tr}(\boldsymbol{\Sigma})=4+4=8=\lambda_1+\lambda_2=6+2\). ✓

La primera componente principal (asociada a \(\lambda_1=6\)) explica: \[ \frac{\lambda_1}{\lambda_1+\lambda_2} = \frac{6}{8} = 0.75, \] es decir, el 75% de la variación total — con una sola componente (en vez de las 2 variables originales, correlacionadas con \(\rho=2/4=0.5\)) capturamos la mayor parte de la información.
Distribución normal multivariada

Distribuciones Condicionales (Caso General)

Particionamos \(\mathbf{X} = \begin{pmatrix} \mathbf{X}_1 \\ \mathbf{X}_2 \end{pmatrix}\) con \(\boldsymbol{\mu} = \begin{pmatrix} \boldsymbol{\mu}_1 \\ \boldsymbol{\mu}_2 \end{pmatrix}\) y \(\boldsymbol{\Sigma} = \begin{pmatrix} \boldsymbol{\Sigma}_{11} & \boldsymbol{\Sigma}_{12} \\ \boldsymbol{\Sigma}_{21} & \boldsymbol{\Sigma}_{22} \end{pmatrix}\).

Teorema de la condicional normal: \[ (\mathbf{X}_1 \mid \mathbf{X}_2 = \mathbf{x}_2) \sim N_{p_1}\left(\boldsymbol{\mu}_1 + \boldsymbol{\Sigma}_{12}\boldsymbol{\Sigma}_{22}^{-1}(\mathbf{x}_2 - \boldsymbol{\mu}_2),\; \boldsymbol{\Sigma}_{11} - \boldsymbol{\Sigma}_{12}\boldsymbol{\Sigma}_{22}^{-1}\boldsymbol{\Sigma}_{21}\right) \]

Visualización de la regresión lineal en la normal bivariada

0.80

La media condicional \(\mathbb{E}[X_1|X_2=x_2] = \mu_1 + \rho\frac{\sigma_1}{\sigma_2}(x_2-\mu_2)\) es una función lineal de \(x_2\). La pendiente es \(\rho\frac{\sigma_1}{\sigma_2}\).

¿Qué significa que la varianza condicional no dependa de \(x_2\)? Es una propiedad de homocedasticidad: la variabilidad alrededor de la línea de regresión es constante, no importa el valor de \(X_2\). Esto es característico de la normal y subyace en muchos modelos de regresión lineal.

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 8, ej. 7) Considere \((X,Y)\) un vector aleatorio normal bivariado tal que \(\mu_X=2\), \(\sigma_X^2=4\), \(\mathbb{E}[Y|X=x]=2+x\), y \(\operatorname{var}(Y|X=x)=5\) (constante, no depende de x). Calcule \(\mathbb{P}(Y>5)\). La media condicional tiene la forma \(\mathbb{E}[Y|X=x]=\mu_Y+\rho\frac{\sigma_Y}{\sigma_X}(x-\mu_X)\). Comparando con \(2+x\) (coeficiente de \(x\) es 1, término constante es 2): \[ \rho\frac{\sigma_Y}{\sigma_X}=1 \implies \rho\sigma_Y = \sigma_X = 2, \qquad \mu_Y - \rho\frac{\sigma_Y}{\sigma_X}\mu_X = 2 \implies \mu_Y - 2 = 2 \implies \mu_Y=4. \] Usando la homocedasticidad, \(\operatorname{var}(Y|X=x)=\sigma_Y^2(1-\rho^2)=5\). Como \(\rho\sigma_Y=2\), tenemos \(\rho=2/\sigma_Y\), y sustituyendo: \[ \sigma_Y^2\left(1-\frac{4}{\sigma_Y^2}\right) = 5 \implies \sigma_Y^2 - 4 = 5 \implies \sigma_Y^2 = 9 \implies \sigma_Y=3,\ \rho=\frac{2}{3}. \] Por lo tanto \(Y\sim N(4,9)\) (marginal), y: \[ \mathbb{P}(Y>5) = 1-\Phi\left(\frac{5-4}{3}\right) = 1-\Phi(0.333) \approx 0.3694. \] Este ejercicio muestra que basta con conocer la forma de la recta de regresión condicional y su varianza constante para recuperar toda la distribución marginal de \(Y\) — sin que el enunciado nos haya dado \(\sigma_Y\) ni \(\rho\) directamente.

Transformaciones de variables y vectores aleatorios

Transformaciones de variables y vectores aleatorios

Transformación de Variables Aleatorias (Caso Univariado)

Si \(X\) es una variable aleatoria continua con densidad \(f_X\) y \(Y = g(X)\) es una transformación monótona (creciente o decreciente) y derivable, entonces: \[ f_Y(y) = f_X(h(y)) \left| \frac{dh(y)}{dy} \right|, \quad \text{donde } h = g^{-1} \] Si \(g\) no es monótona, se particiona el soporte en regiones donde sí lo sea: \[ f_Y(y) = \sum_{k=1}^{m} f_X(h_k(y)) \left| \frac{dh_k(y)}{dy} \right| \]

Simulador: Transformación de una uniforme a exponencial

1.0
Derivación: Transformación Uniforme → Exponencial Sea \(U \sim \text{Unif}(0,1)\) y definimos \(Y = -\frac{1}{\lambda} \log(1-U)\).
\(F_U(u) = u\) para \(0<u<1\). La función inversa: \(u = h(y) = 1 - e^{-\lambda y}\).
\(\left| \frac{dh}{dy} \right| = \lambda e^{-\lambda y}\).
Entonces \(f_Y(y) = f_U(h(y)) \cdot \lambda e^{-\lambda y} = 1 \cdot \lambda e^{-\lambda y}\).
¡Es la densidad de una exponencial con tasa λ!

Ejemplo del PDF: Transformación de una normal a lognormal
Si \(Y \sim N(\mu, \sigma^2)\) y \(X = e^Y\), entonces: \[ f_X(x) = \frac{1}{x\sqrt{2\pi}\sigma} \exp\left\{-\frac{1}{2}\left(\frac{\log x - \mu}{\sigma}\right)^2\right\}, \quad x > 0 \] Esta es la distribución Lognormal.

¿Qué pasa si aplicamos la transformación \(Y = X^2\) a una normal estándar? Si \(Z \sim N(0,1)\) y \(Y = Z^2\), la transformación no es monótona (tiene dos ramas: \(z = \pm\sqrt{y}\)). \[ f_Y(y) = \frac{1}{2\sqrt{y}} [f_Z(\sqrt{y}) + f_Z(-\sqrt{y})] = \frac{1}{\sqrt{2\pi y}} e^{-y/2}, \quad y>0 \] ¡Esta es la densidad de una \(\chi^2_1\) (Gamma con α=1/2, β=2)!

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 9, ej. 1) Sea \(X\) distribuida uniformemente en el intervalo \((0,1)\). Encuentre la f.d.p. de \(Y=X^{1/\beta}\) para \(\beta\neq0\). Para \(\beta>0\), \(g(x)=x^{1/\beta}\) es creciente en \((0,1)\), con soporte \(y\in(0,1)\). La inversa es \(h(y)=x=y^\beta\), y \[ \left|\frac{dh}{dy}\right| = \left|\beta y^{\beta-1}\right| = \beta y^{\beta-1} \quad (\beta>0, \ 0<y<1). \] Como \(f_X(x)=1\) en \((0,1)\): \[ f_Y(y) = f_X(h(y))\left|\frac{dh}{dy}\right| = \beta y^{\beta-1}, \quad 0<y<1. \] Esta es exactamente la densidad de una \(\text{Beta}(\beta,1)\) — así que elevar una Uniforme(0,1) a la potencia \(1/\beta\) genera una Beta(β,1). (Para \(\beta<0\) el argumento es análogo pero \(g\) es decreciente y el soporte cambia a \(y>1\).)
Transformaciones de variables y vectores aleatorios

Distribución Lognormal

Una variable \(X\) tiene distribución lognormal con parámetros \(\mu\) y \(\sigma^2\) si \(\log X \sim N(\mu, \sigma^2)\). Su densidad es: \[ f_X(x) = \frac{1}{x\sqrt{2\pi}\sigma} \exp\left\{-\frac{1}{2}\left(\frac{\log x - \mu}{\sigma}\right)^2\right\}, \quad x > 0 \]

Explora la distribución Lognormal

0.0 0.50

Propiedades de la Lognormal:

  • \(\mathbb{E}[X] = \exp\left\{\mu + \frac{\sigma^2}{2}\right\}\)
  • \(\operatorname{var}(X) = (e^{\sigma^2} - 1) e^{2\mu + \sigma^2}\)
  • \(\mathbb{E}[X^r] = \exp\left\{r\mu + \frac{1}{2}r^2\sigma^2\right\}\) (todos los momentos finitos)
  • No tiene FGM (crece demasiado rápido)
Demostración de los momentos Como \(\log X = Y \sim N(\mu, \sigma^2)\), la FGM de \(Y\) es \(m_Y(t) = e^{\mu t + \frac{1}{2}\sigma^2 t^2}\).
Entonces \(\mathbb{E}[X^r] = \mathbb{E}[e^{rY}] = m_Y(r) = \exp\left\{r\mu + \frac{1}{2}r^2\sigma^2\right\}\).
¿Por qué la lognormal no tiene FGM si tiene todos los momentos finitos? La FGM es \(m_X(t) = \mathbb{E}[e^{tX}]\). Para la lognormal, \(e^{tX}\) crece como \(e^{t e^Y}\), que es super-exponencial. La integral diverge para cualquier \(t > 0\). Este es un contraejemplo clásico: tener todos los momentos finitos no garantiza la existencia de la FGM.

Ejercicio

Sea \(X\) lognormal con \(\mu=1\), \(\sigma=0.5\). Calcule \(\mathbb{E}[X]\) y \(\operatorname{var}(X)\). Usando las fórmulas de esta página: \[ \mathbb{E}[X] = \exp\left\{1 + \frac{0.25}{2}\right\} = e^{1.125} \approx 3.0802. \] \[ \operatorname{var}(X) = (e^{0.25}-1)e^{2(1)+0.25} = (1.2840-1)(e^{2.25}) \approx 0.2840\times9.4877 \approx 2.6948. \] Nótese que \(\operatorname{var}(X) \approx 2.69\) es menor que \((\mathbb{E}[X])^2\approx9.49\) aquí, pero para \(\sigma\) más grande la varianza crece mucho más rápido que la media (por el factor \(e^{\sigma^2}\)) — pruébelo en el simulador subiendo \(\sigma\).
Transformaciones de variables y vectores aleatorios

Transformación Integral de Probabilidad

Teorema fundamental de simulación:
Si \(X\) es una variable continua con función de distribución \(F_X\) estrictamente creciente, entonces \(U = F_X(X) \sim \text{Unif}(0,1)\).
Recíprocamente, si \(U \sim \text{Unif}(0,1)\), entonces \(X = F_X^{-1}(U)\) tiene distribución \(F_X\).

Demostración interactiva: de uniforme a cualquier distribución

Demostración del teorema Para \(0 < u < 1\): \[ F_U(u) = \mathbb{P}(U \le u) = \mathbb{P}(F_X(X) \le u) = \mathbb{P}(X \le F_X^{-1}(u)) = F_X(F_X^{-1}(u)) = u \] Por lo tanto, \(U \sim \text{Unif}(0,1)\).
Recíprocamente, si \(U \sim \text{Unif}(0,1)\) y \(X = F_X^{-1}(U)\), entonces: \[ F_X(x) = \mathbb{P}(X \le x) = \mathbb{P}(F_X^{-1}(U) \le x) = \mathbb{P}(U \le F_X(x)) = F_X(x) \]

Ejemplo: Para generar una exponencial con media θ, tomamos \(U \sim \text{Unif}(0,1)\) y hacemos \[ X = F_X^{-1}(U) = -\theta \log(1-U) \] Este es el método empleado en el simulador del Módulo 1.

¿Por qué es importante este teorema para la simulación computacional? Es la base de casi todos los generadores de números aleatorios no uniformes. La mayoría de los lenguajes de programación generan primero uniformes (fáciles de generar) y luego los transforman mediante \(F_X^{-1}\) para obtener muestras de cualquier distribución.

Ejercicio

Sea \(X\sim\text{Exponencial}(\lambda)\), con \(F_X(x)=1-e^{-\lambda x}\). Verifique directamente (sin apelar al teorema general) que \(U=F_X(X)=1-e^{-\lambda X}\) tiene distribución Uniforme(0,1), calculando \(F_U(u)\). Para \(0<u<1\): \[ F_U(u) = \mathbb{P}(U\le u) = \mathbb{P}(1-e^{-\lambda X}\le u) = \mathbb{P}(e^{-\lambda X}\ge 1-u). \] Tomando logaritmo (y invirtiendo la desigualdad, pues \(-\lambda\) es negativo): \[ = \mathbb{P}\left(X \le -\frac{\log(1-u)}{\lambda}\right) = F_X\left(-\frac{\log(1-u)}{\lambda}\right) = 1-e^{-\lambda\cdot\left(-\log(1-u)/\lambda\right)} = 1-e^{\log(1-u)} = 1-(1-u) = u. \] Como \(F_U(u)=u\) para \(0<u<1\), efectivamente \(U\sim\text{Unif}(0,1)\) — esta es la dirección "hacia adelante" del teorema (partir de \(X\) y llegar a una uniforme), complementaria a la dirección usada en el simulador de arriba (partir de una uniforme y llegar a \(X\)).
Transformaciones de variables y vectores aleatorios

Transformaciones Multivariadas y el Jacobiano

Para transformaciones de vectores, la fórmula incluye el determinante jacobiano: \[ f_Y(y) = f_X(h(y)) \cdot |J_h(y)| \] donde \(J_h(y) = \det\left( \frac{\partial h_i}{\partial y_j} \right)\).

Visualización: Transformación lineal de normales independientes

Ejemplo del PDF: \(X_1 = Z_1 + Z_2\), \(X_2 = Z_1 - Z_2\) con \(Z_i \sim N(0,1)\) i.i.d. La transformación inversa: \(Z_1 = \frac{X_1+X_2}{2}\), \(Z_2 = \frac{X_1-X_2}{2}\)
Jacobiano: \[ J = \det\begin{pmatrix} 1/2 & 1/2 \\ 1/2 & -1/2 \end{pmatrix} = -\frac{1}{2} \] \[ f_X(x) = f_Z(h(x)) \cdot |J| = \frac{1}{2\pi} e^{-\frac{1}{2}\left[\left(\frac{x_1+x_2}{2}\right)^2 + \left(\frac{x_1-x_2}{2}\right)^2\right]} \cdot \frac{1}{2} \] Simplificando: \(f_X(x) = \frac{1}{\sqrt{2\pi}\sqrt{2}} e^{-x_1^2/4} \cdot \frac{1}{\sqrt{2\pi}\sqrt{2}} e^{-x_2^2/4}\)
¡\(X_1\) y \(X_2\) son independientes \(N(0,2)\)!

Ejemplo del PDF: Transformación de uniformes a un rombo
Sean \(U_1, U_2 \sim \text{Unif}(0,1)\) independientes. Definimos \(X_1 = U_1 + U_2\), \(X_2 = U_1 - U_2\).
El soporte resultante es un rombo (ver figura en el PDF). La densidad conjunta es uniforme sobre el rombo: \[ f_X(x) = \frac{1}{2} \mathbb{1}_{\{ |x_1| + |x_2| \le 2, |x_1| \le 2, |x_2| \le 1 \}}(x) \]

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 10, ej. 3) Sean \(X_1,X_2\) v.a.i.i.d. con distribución común \(\chi^2_2\). Sea \(Y=(X_1-X_2)/2\). Muestre que \(Y\) sigue una distribución Laplaciana. Como \(\chi^2_2\) es equivalente a \(\text{Exponencial}(\lambda=1/2)\) (densidad \(\frac{1}{2}e^{-x/2}\)), basta trabajar con \(X_1,X_2\sim\text{Exp}(\lambda)\) i.i.d. Introducimos la variable auxiliar \(S=X_1+X_2\) y sea \(D=X_1-X_2\), con inversa \(X_1=(S+D)/2\), \(X_2=(S-D)/2\). El jacobiano es: \[ J = \det\begin{pmatrix}1/2 & 1/2\\ 1/2 & -1/2\end{pmatrix} = -\frac12, \qquad |J|=\frac12. \] La densidad conjunta de \((X_1,X_2)\) es \(f(x_1,x_2)=\lambda^2e^{-\lambda(x_1+x_2)}=\lambda^2e^{-\lambda s}\), válida donde \(x_1,x_2>0\), es decir \(s>|d|\). Entonces: \[ f_{D,S}(d,s) = \frac{\lambda^2}{2}e^{-\lambda s}, \qquad s>|d|. \] Integrando sobre \(s\) para obtener la marginal de \(D\): \[ f_D(d) = \int_{|d|}^{\infty}\frac{\lambda^2}{2}e^{-\lambda s}\,ds = \frac{\lambda}{2}e^{-\lambda|d|}. \] Finalmente, con \(\lambda=1/2\) (por ser \(\chi^2_2\)) y \(Y=D/2\) (así \(D=2Y\), \(|dD/dY|=2\)): \[ f_Y(y) = f_D(2y)\cdot 2 = \frac{1/2}{2}e^{-(1/2)|2y|}\cdot2 = \frac12 e^{-|y|}. \] Esta es exactamente la densidad de una Laplace(0,1) — la misma técnica de variable auxiliar + Jacobiano usada en el ejemplo resuelto de esta página.
Transformaciones de variables y vectores aleatorios

Distribución t de Student

La distribución t de Student con \(n\) grados de libertad se define como: \[ T = \frac{Z}{\sqrt{Y/n}}, \quad \text{donde } Z \sim N(0,1),\; Y \sim \chi^2_n \text{ independientes} \] Su densidad es: \[ f_T(t) = \frac{\Gamma\left(\frac{n+1}{2}\right)}{\sqrt{n\pi}\,\Gamma\left(\frac{n}{2}\right)} \left(1 + \frac{t^2}{n}\right)^{-\frac{n+1}{2}}, \quad t \in \mathbb{R} \]

Comparativa: t-Student vs Normal

5

Propiedades de la distribución t:

  • Simétrica alrededor de 0 (colas más pesadas que la normal)
  • \(\mathbb{E}[T] = 0\) para \(n > 1\)
  • \(\operatorname{var}(T) = \frac{n}{n-2}\) para \(n > 2\)
  • Caso particular: \(t_1 \sim \text{Cauchy}(0,1)\) (varianza infinita)
  • Cuando \(n \to \infty\), \(t_n \xrightarrow{D} N(0,1)\)
Derivación de la densidad t (resumida) Usando la transformación \((T, U) = \left( \frac{Z}{\sqrt{Y/n}}, Y \right)\) con Jacobiano \(|J| = \sqrt{u/n}\).
Integrando sobre \(u\) se obtiene la forma cerrada de la densidad.
¿Por qué la t tiene colas más pesadas que la normal? Porque \(Y\) (la chi-cuadrada en el denominador) introduce variabilidad adicional. Para grados de libertad pequeños, hay una probabilidad no despreciable de obtener valores pequeños de \(Y\), lo que hace que \(T\) sea más grande en magnitud.

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 12, ej. 2b) Usando la definición \(T=Z/\sqrt{Y/n}\) con \(Z\sim N(0,1)\) y \(Y\sim\chi^2_n\) independientes, derive \(\operatorname{var}(T)=\dfrac{n}{n-2}\) para \(n>2\). Como \(\mathbb{E}[T]=0\) (por simetría e independencia), \(\operatorname{var}(T)=\mathbb{E}[T^2]\): \[ \mathbb{E}[T^2] = \mathbb{E}\left[\frac{Z^2}{Y/n}\right] = \mathbb{E}[Z^2]\cdot n\,\mathbb{E}\left[\frac{1}{Y}\right] = 1\cdot n\,\mathbb{E}[Y^{-1}] \] (usamos independencia de \(Z\) y \(Y\), y \(\mathbb{E}[Z^2]=1\)). Como \(Y\sim\chi^2_n=\text{Gamma}(\alpha=n/2,\beta=2)\), usamos la fórmula general de momentos de la Gamma \(\mathbb{E}[Y^r]=\beta^r\Gamma(\alpha+r)/\Gamma(\alpha)\) (vista en el capítulo de FGM) con \(r=-1\) (válida si \(\alpha>1\), es decir \(n>2\)): \[ \mathbb{E}[Y^{-1}] = \frac{1}{2}\cdot\frac{\Gamma(n/2-1)}{\Gamma(n/2)} = \frac{1}{2}\cdot\frac{1}{n/2-1} = \frac{1}{n-2}. \] Sustituyendo: \[ \operatorname{var}(T) = n\cdot\frac{1}{n-2} = \frac{n}{n-2}. \] Esto confirma la fórmula, y explica por qué se requiere \(n>2\): para \(n\le2\), \(\mathbb{E}[Y^{-1}]\) diverge.
Transformaciones de variables y vectores aleatorios

Transformación Box-Muller

La transformación Box-Muller (1958) permite generar dos normales estándar independientes a partir de dos uniformes independientes: \[ X_1 = \sqrt{-2\log U_1} \cos(2\pi U_2), \quad X_2 = \sqrt{-2\log U_1} \sin(2\pi U_2) \]

Generador Box-Muller interactivo

Demostración (esquema) 1. Primera transformación: \(R = \sqrt{-2\log U_1}\), \(\Theta = 2\pi U_2\)
Esto da \((R, \Theta)\) con densidad \(f_{R,\Theta}(r,\theta) = \frac{r}{2\pi} e^{-r^2/2}\) para \(r>0, 0<\theta<2\pi\).
2. Cambio a coordenadas cartesianas: \(X_1 = R\cos\Theta\), \(X_2 = R\sin\Theta\)
El Jacobiano de \((R,\Theta) \to (X_1,X_2)\) es \(1/r\), dando \(f_{X_1,X_2}(x_1,x_2) = \frac{1}{2\pi} e^{-(x_1^2+x_2^2)/2}\).
3. Esta es la densidad conjunta de dos normales estándar independientes.

Importancia histórica: Antes de algoritmos más eficientes, Box-Muller era el método estándar para generar normales. Hoy se usan métodos como el polar de Marsaglia o Ziggurat, pero Box-Muller sigue siendo elegante y didáctico.

¿Qué forma tiene la distribución conjunta de (X₁, X₂) generada por Box-Muller? Es una normal bivariada con media (0,0), varianzas 1 y correlación 0. Es decir, \(X_1\) y \(X_2\) son independientes \(N(0,1)\). ¡El gráfico de dispersión debe mostrar una nube circular!

Ejercicio

Muestre que \(R^2=-2\log U_1\) sigue una distribución \(\chi^2_2\) (equivalentemente, Exponencial(1/2)), consistente con el hecho de que \(X_1^2+X_2^2\) para dos normales estándar independientes es \(\chi^2_2\). Sea \(W=-\log U_1\). Como \(U_1\sim\text{Unif}(0,1)\): \[ F_W(w) = \mathbb{P}(-\log U_1\le w) = \mathbb{P}(U_1\ge e^{-w}) = 1-e^{-w}, \quad w>0, \] que es la f.d.a. de una \(\text{Exponencial}(1)\), así que \(W\sim\text{Exp}(1)\). Como \(R^2=2W\): \[ F_{R^2}(t) = \mathbb{P}(2W\le t) = \mathbb{P}\left(W\le\frac{t}{2}\right) = 1-e^{-t/2}, \quad t>0, \] que es la f.d.a. de una \(\text{Exponencial}(1/2)\) — equivalentemente, una \(\chi^2_2\). Esto es exactamente consistente con la teoría: si \(X_1,X_2\sim N(0,1)\) independientes (que es lo que produce Box-Muller), entonces \(R^2=X_1^2+X_2^2=\chi^2_1+\chi^2_1=\chi^2_2\), confirmando que la construcción es internamente consistente.

Suma y cociente de variables y vectores aleatorios

Suma y cociente de variables y vectores aleatorios

Suma de Variables Aleatorias - Convolución

Para variables independientes, la densidad de la suma \(Z = X + Y\) es la convolución: \[ f_Z(z) = \int_{-\infty}^{\infty} f_X(x) f_Y(z-x) dx = (f_X * f_Y)(z) \] En el caso discreto: \[ f_{X+Y}(z) = \sum_{x} f_X(x) f_Y(z-x) \]

Simulador: Suma de dos uniformes independientes en (0,1)

Derivación de la convolución \[ \begin{align*} F_Z(z) &= \mathbb{P}(X+Y \le z) = \int_{-\infty}^{\infty} \int_{-\infty}^{z-x} f_X(x)f_Y(y) dy dx \\ &= \int_{-\infty}^{\infty} f_X(x) F_Y(z-x) dx \\ f_Z(z) &= \frac{d}{dz} F_Z(z) = \int_{-\infty}^{\infty} f_X(x) f_Y(z-x) dx \end{align*} \]

Ejemplo del PDF: Suma de dos Uniformes(0,1) \[ f_Z(z) = \begin{cases} z & 0 \le z < 1 \\ 2-z & 1 \le z \le 2 \\ 0 & \text{otro caso} \end{cases} \] Esta es la distribución triangular (Irwin-Hall con n=2).

¿Qué forma tiene la suma de tres uniformes independientes? La suma de tres uniformes (Irwin-Hall con n=3) tiene una densidad formada por tres segmentos de parábola: \[ f_Z(z) = \begin{cases} \frac{1}{2}z^2 & 0 \le z < 1 \\ \frac{1}{2}(-2z^2 + 6z - 3) & 1 \le z < 2 \\ \frac{1}{2}(3-z)^2 & 2 \le z \le 3 \end{cases} \] En general, la suma de \(n\) uniformes se aproxima a una normal por el TCL.

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 10, ej. 1) Sea \(a\) una constante. Demuestre que la diferencia de dos variables aleatorias independientes, ambas con distribución uniforme en el intervalo \((a-1/2,a+1/2)\), tiene función de densidad \(f(u)=1-|u|\) para \(-1<u<1\). Sean \(X,Y\sim\text{Unif}(a-1/2,a+1/2)\) independientes, y \(U=X-Y\). La constante \(a\) se cancela por traslación: si \(X'=X-a\), \(Y'=Y-a\), entonces \(X',Y'\sim\text{Unif}(-1/2,1/2)\) y \(U=X'-Y'\), así que basta considerar \(a=0\).

Usando la fórmula de convolución para la diferencia, \(f_U(u)=\int f_X(x)f_Y(x-u)\,dx\), con \(f_X=f_Y=\mathbb{1}_{(-1/2,1/2)}\): \[ f_U(u) = \int_{-1/2}^{1/2} \mathbb{1}_{(-1/2,1/2)}(x-u)\,dx = \text{longitud de } (-1/2,1/2)\cap(u-1/2,u+1/2). \] Para \(0\le u<1\), esta intersección es el intervalo \((u-1/2,\,1/2)\), de longitud \(1-u\). Por simetría (\(f_U\) es par, ya que \(X-Y\) y \(Y-X\) tienen la misma distribución), para \(-1<u\le0\) la longitud es \(1+u\). En ambos casos, \(f_U(u)=1-|u|\) para \(-1<u<1\).
Suma y cociente de variables y vectores aleatorios

Suma de Gammas y Propiedades de la Convolución

La convolución es una operación entre funciones que es:
  • Conmutativa: \(f_X * f_Y = f_Y * f_X\)
  • Asociativa: \(f_X * (f_Y * f_Z) = (f_X * f_Y) * f_Z\)

Visualización: Suma de dos variables Gamma

2.0 3.0 1.0
Demostración: Suma de Gammas independientes Si \(X \sim \text{Gamma}(\alpha_1, \beta)\) e \(Y \sim \text{Gamma}(\alpha_2, \beta)\) independientes: \[ \begin{align*} f_Z(z) &= \int_0^z \frac{x^{\alpha_1-1}e^{-x/\beta}}{\beta^{\alpha_1}\Gamma(\alpha_1)} \cdot \frac{(z-x)^{\alpha_2-1}e^{-(z-x)/\beta}}{\beta^{\alpha_2}\Gamma(\alpha_2)} dx \\ &= \frac{e^{-z/\beta}}{\beta^{\alpha_1+\alpha_2}\Gamma(\alpha_1)\Gamma(\alpha_2)} \int_0^z x^{\alpha_1-1}(z-x)^{\alpha_2-1} dx \\ &= \frac{e^{-z/\beta} z^{\alpha_1+\alpha_2-1}}{\beta^{\alpha_1+\alpha_2}\Gamma(\alpha_1+\alpha_2)} \end{align*} \] ¡Por lo tanto, \(X+Y \sim \text{Gamma}(\alpha_1+\alpha_2, \beta)\)!

Corolario importante:
Si \(X_1, \ldots, X_n\) son i.i.d. \(\text{Exp}(\lambda)\) (Gamma(1, 1/λ)), entonces \[ \sum_{i=1}^n X_i \sim \text{Gamma}(n, 1/\lambda) \] La suma de exponenciales independientes sigue una distribución Gamma.

Ejercicio

El tiempo de vida de un componente electrónico es \(\text{Exp}(\lambda=0.5)\) (media 2 años). Un sistema usa 4 componentes idénticos e independientes, reemplazando cada uno al fallar (redundancia en espera, "standby"). Encuentre la distribución del tiempo total de vida del sistema \(T\), y calcule \(\mathbb{P}(T>10)\). Por el corolario, \(T=\sum_{i=1}^4 X_i \sim \text{Gamma}(n=4, \beta=1/\lambda=2)\).

Para calcular \(\mathbb{P}(T>10)\) usamos la relación Gamma–Poisson (válida cuando el parámetro de forma es un entero \(n\)): si \(T\sim\text{Gamma}(n,\beta)\), entonces \[ \mathbb{P}(T>t) = \mathbb{P}\left(\text{Poisson}\left(\frac{t}{\beta}\right) \le n-1\right). \] Con \(t=10\), \(\beta=2\): \(t/\beta=5\), y necesitamos \(\mathbb{P}(\text{Poisson}(5)\le3)\): \[ \mathbb{P}(T>10) = e^{-5}\left(1+5+\frac{5^2}{2!}+\frac{5^3}{3!}\right) = e^{-5}(1+5+12.5+20.833) \approx 0.2650. \] Es decir, hay aproximadamente 26.5% de probabilidad de que el sistema siga funcionando después de 10 años.
Suma y cociente de variables y vectores aleatorios

Cociente de Variables Aleatorias

Para el cociente \(Z = Y/X\), la densidad está dada por: \[ f_{Y/X}(z) = \int_{-\infty}^{\infty} |x| f_{X,Y}(x, xz) dx \] Si \(X\) y \(Y\) son independientes: \[ f_{Y/X}(z) = \int_{-\infty}^{\infty} |x| f_X(x) f_Y(xz) dx \]

Ejemplo clásico: Cociente de dos normales estándar

Derivación de la fórmula para el cociente \[ \begin{align*} F_Z(z) &= \iint_{\{y/x \le z\}} f_X(x)f_Y(y) dx dy \\ &= \int_{-\infty}^0 \int_{zx}^{\infty} f_X(x)f_Y(y) dy dx + \int_0^{\infty} \int_{-\infty}^{zx} f_X(x)f_Y(y) dy dx \end{align*} \] Diferenciando bajo el signo integral: \[ f_{Y/X}(z) = \int_{-\infty}^0 (-x)f_X(x)f_Y(zx) dx + \int_0^{\infty} x f_X(x)f_Y(zx) dx = \int_{-\infty}^{\infty} |x| f_X(x) f_Y(zx) dx \]

Ejemplo del PDF: Cociente de normales estándar
Sean \(X, Y \sim N(0,1)\) i.i.d. Entonces: \[ f_{Y/X}(z) = \frac{1}{\pi(1+z^2)} \] ¡Es la distribución Cauchy(0,1)! Tiene colas pesadas y varianza infinita.

¿Qué distribución tiene el cociente de dos exponenciales independientes? Si \(X, Y \sim \text{Exp}(\lambda)\) independientes, entonces: \[ f_{Y/X}(z) = \frac{1}{(1+z)^2}, \quad z > 0 \] ¡Es una distribución \(F_{2,2}\)! El cociente de exponenciales sigue una distribución F con (2,2) grados de libertad.

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 10, ej. 2) Sea \(X=(X_1,X_2)\) con f.d.p. conjunta \(f(x_1,x_2)=\dfrac{1}{x_1^2x_2^2}\mathbb{1}_{(1,\infty)}(x_1)\mathbb{1}_{(1,\infty)}(x_2)\). Encuentre la f.d.p. de \(X_1/X_2\). Sea \(Z=X_1/X_2\). Usando la fórmula del cociente con \(x_1=zx_2\): \[ f_Z(z) = \int x_2\,f(zx_2,\,x_2)\,dx_2 = \int_{x_2 > \max(1,\,1/z)} x_2\cdot\frac{1}{(zx_2)^2x_2^2}\,dx_2 = \frac{1}{z^2}\int_{\max(1,1/z)}^{\infty} x_2^{-3}\,dx_2, \] (la restricción \(x_2>\max(1,1/z)\) viene de necesitar \(x_2>1\) y \(zx_2>1\) simultáneamente). Usando \(\int_a^\infty x_2^{-3}dx_2 = \frac{1}{2a^2}\): \[ f_Z(z) = \frac{1}{2z^2 \cdot \max(1,1/z)^2}. \] Separando casos: para \(z\ge1\) (donde \(\max(1,1/z)=1\)): \(f_Z(z)=\dfrac{1}{2z^2}\). Para \(0<z<1\) (donde \(\max(1,1/z)=1/z\)): \(f_Z(z)=\dfrac{1}{2z^2\cdot(1/z^2)}=\dfrac12\). Se puede verificar que integra a 1: \(\int_0^1\frac12dz+\int_1^\infty\frac{1}{2z^2}dz=\frac12+\frac12=1\). ✓
Suma y cociente de variables y vectores aleatorios

Distribución F (Fisher-Snedecor)

La distribución \(F\) con \(m\) y \(n\) grados de libertad se define como: \[ W = \frac{X/m}{Y/n} \sim F_{m,n}, \quad \text{donde } X \sim \chi^2_m,\; Y \sim \chi^2_n \text{ independientes} \] Su densidad es: \[ f_W(w) = \frac{\Gamma\left(\frac{m+n}{2}\right)}{\Gamma\left(\frac{m}{2}\right)\Gamma\left(\frac{n}{2}\right)} \left(\frac{m}{n}\right)^{m/2} \frac{w^{\frac{m}{2}-1}}{\left(1+\frac{m}{n}w\right)^{\frac{m+n}{2}}}, \quad w > 0 \]

Explora la distribución F

5 10

Propiedades de la distribución F:

  • Si \(T \sim t_n\) (t-Student), entonces \(T^2 \sim F_{1,n}\)
  • \(W^{-1} \sim F_{n,m}\) (recíproca)
  • \(\mathbb{E}[W] = \frac{n}{n-2}\) para \(n > 2\)
  • \(\operatorname{var}(W) = \frac{2n^2(m+n-2)}{m(n-2)^2(n-4)}\) para \(n > 4\)
  • Percentiles: \(F(p; m, n) = \frac{1}{F(1-p; n, m)}\)
Relación con la t-Student Si \(T \sim t_n\), entonces \(T^2 = \frac{Z^2}{\chi^2_n/n}\).
Como \(Z^2 \sim \chi^2_1\), tenemos \(T^2 \sim \frac{\chi^2_1}{\chi^2_n/n} = \frac{\chi^2_1/1}{\chi^2_n/n} \sim F_{1,n}\).
Por lo tanto, ¡el cuadrado de una t-Student sigue una F con (1, n) grados de libertad!

Ejemplo de aplicación: En ANOVA, la estadística \(F = \frac{\text{MSB}}{\text{MSW}}\) sigue una distribución \(F_{k-1, N-k}\) bajo la hipótesis nula.
Para \(m=3, n=12\), el valor crítico al 95% es aproximadamente 3.49.

¿Qué le pasa a la distribución F cuando m y n crecen? Cuando \(n \to \infty\), \(F_{m,n}\) converge a \(\chi^2_m/m\) (una chi-cuadrada escalada). Cuando \(m \to \infty\), el comportamiento es similar. En la práctica, para grados de libertad grandes (>100), la distribución F se aproxima a una normal.

Ejercicio

Usando la propiedad de reciprocidad \(W^{-1}\sim F_{n,m}\) (mencionada arriba), derive la relación de percentiles \(F(p;m,n) = 1/F(1-p;n,m)\). Por definición, \(F(p;m,n)\) es el valor tal que \(\mathbb{P}(W\le F(p;m,n))=p\), donde \(W\sim F_{m,n}\). Esta desigualdad es equivalente a: \[ \mathbb{P}(W\le F(p;m,n)) = \mathbb{P}\!\left(\frac{1}{W}\ge \frac{1}{F(p;m,n)}\right) = p, \] es decir, \[ \mathbb{P}\!\left(\frac{1}{W} < \frac{1}{F(p;m,n)}\right) = 1-p. \] Pero por la propiedad de reciprocidad, \(1/W\sim F_{n,m}\). Por definición de percentil aplicada a \(1/W\), el valor \(v\) tal que \(\mathbb{P}(1/W\le v)=1-p\) es exactamente \(v=F(1-p;n,m)\). Comparando ambas expresiones: \[ F(1-p;n,m) = \frac{1}{F(p;m,n)} \quad\Longleftrightarrow\quad F(p;m,n) = \frac{1}{F(1-p;n,m)}. \] Esta identidad es la razón práctica por la que las tablas de la distribución F solo publican percentiles altos (como 0.95 o 0.99): los percentiles bajos se obtienen invirtiendo y cambiando el orden de los grados de libertad.
Suma y cociente de variables y vectores aleatorios

Aplicaciones: Cociente de Chi-cuadradas

Sean \(X \sim \chi^2_m\) e \(Y \sim \chi^2_n\) independientes. Entonces: \[ Z = \frac{X}{Y} \text{ tiene densidad } f_Z(z) = \frac{\Gamma\left(\frac{m+n}{2}\right)}{\Gamma\left(\frac{m}{2}\right)\Gamma\left(\frac{n}{2}\right)} \frac{z^{\frac{m}{2}-1}}{(1+z)^{\frac{m+n}{2}}}, \quad z > 0 \] Esta es la base de la distribución \(F\).

Simulador: Cociente de Chi-cuadradas vs F

3 6

Relación entre F y Beta:
Si \(W \sim F_{m,n}\), entonces: \[ \frac{\frac{m}{n}W}{1+\frac{m}{n}W} \sim \text{Beta}\left(\frac{m}{2}, \frac{n}{2}\right) \] Esta transformación es útil para calcular percentiles de la distribución F.

¿Para qué se usa la distribución F en estadística? La distribución F es fundamental en:
  • ANOVA (comparación de medias de múltiples grupos)
  • Prueba de igualdad de varianzas (prueba F)
  • Pruebas de significancia global en regresión lineal
  • Comparación de modelos anidados

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 11, ej. 2 — adaptado) Sean \(X_1,X_2\) variables aleatorias independientes con \(X_i\sim\text{Gamma}(\alpha_i,\lambda)\) (mismo parámetro de tasa \(\lambda\)). Encuentre la f.d.p. de \(W=\dfrac{X_1}{X_1+X_2}\), y explique su relación con la distribución F de esta página. Sea \(S=X_1+X_2\), de modo que \(X_1=WS\), \(X_2=S(1-W)\). El jacobiano de \((x_1,x_2)\to(w,s)\) es \(|J|=s\). La densidad conjunta (por independencia) es: \[ f(x_1,x_2) = \frac{\lambda^{\alpha_1}x_1^{\alpha_1-1}e^{-\lambda x_1}}{\Gamma(\alpha_1)}\cdot\frac{\lambda^{\alpha_2}x_2^{\alpha_2-1}e^{-\lambda x_2}}{\Gamma(\alpha_2)}. \] Sustituyendo \(x_1=ws\), \(x_2=s(1-w)\), y multiplicando por \(|J|=s\): \[ f(w,s) = \frac{\lambda^{\alpha_1+\alpha_2}}{\Gamma(\alpha_1)\Gamma(\alpha_2)}\, w^{\alpha_1-1}(1-w)^{\alpha_2-1}\, s^{\alpha_1+\alpha_2-1}e^{-\lambda s}, \quad 0<w<1,\ s>0. \] ¡La densidad se factoriza en una parte que depende solo de \(w\) y otra solo de \(s\)! Integrando sobre \(s\) (usando \(\int_0^\infty s^{\alpha_1+\alpha_2-1}e^{-\lambda s}ds=\Gamma(\alpha_1+\alpha_2)/\lambda^{\alpha_1+\alpha_2}\)): \[ f_W(w) = \frac{\Gamma(\alpha_1+\alpha_2)}{\Gamma(\alpha_1)\Gamma(\alpha_2)}\, w^{\alpha_1-1}(1-w)^{\alpha_2-1}, \quad 0<w<1, \] que es exactamente la densidad de una \(\text{Beta}(\alpha_1,\alpha_2)\). Esta es la versión más fundamental de la relación F–Beta de esta página: cuando \(\alpha_1=m/2\), \(\alpha_2=n/2\) (es decir, \(X_1,X_2\) son chi-cuadradas), \(W=X_1/(X_1+X_2)\) coincide exactamente con la transformación \(\frac{(m/n)W_F}{1+(m/n)W_F}\) de una \(F_{m,n}\), confirmando por qué esa combinación resulta Beta.

Estadísticos de orden

Estadísticos de orden

Estadísticos de Orden - Definición

Sea \(X_1, \ldots, X_n\) una muestra aleatoria (i.i.d.) de una población con función de distribución \(F\). Los estadísticos de orden son las variables ordenadas: \[ X_{(1)} \le X_{(2)} \le \cdots \le X_{(n)} \] donde \(X_{(1)} = \min\{X_i\}\), \(X_{(n)} = \max\{X_i\}\).

Simulador: Muestra aleatoria y estadísticos de orden

8

Aplicaciones:

  • Sistemas en serie: El tiempo de vida es \(X_{(1)}\) (el más débil falla primero)
  • Sistemas en paralelo: El tiempo de vida es \(X_{(n)}\) (el último en fallar)
  • Control de calidad: El rango \(R = X_{(n)} - X_{(1)}\) mide la variabilidad
¿Qué representa la mediana muestral en términos de estadísticos de orden? Si \(n\) es impar, la mediana es \(X_{((n+1)/2)}\) (el estadístico de orden central). Si \(n\) es par, la mediana es \(\frac{1}{2}(X_{(n/2)} + X_{(n/2+1)})\).

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 13, ej. 1) Considere \(X_1,\ldots,X_n\) una muestra aleatoria de una población distribuida uniformemente en \((0,\theta)\). Considere los estimadores \(\tilde\theta\) y \(\hat\theta\) del parámetro \(\theta\) dados por \(\tilde\theta=2\bar X\), \(\hat\theta=\frac{n+1}{n}X_{(n)}\). Muestre que ambos son estimadores insesgados de \(\theta\), es decir, \(\mathbb{E}[\tilde\theta]=\theta\) y \(\mathbb{E}[\hat\theta]=\theta\). Para \(\tilde\theta\): como \(X_i\sim\text{Unif}(0,\theta)\), \(\mathbb{E}[X_i]=\theta/2\), así que \(\mathbb{E}[\bar X]=\theta/2\) y \[ \mathbb{E}[\tilde\theta] = 2\,\mathbb{E}[\bar X] = 2\cdot\frac{\theta}{2} = \theta. \] Para \(\hat\theta\), necesitamos \(\mathbb{E}[X_{(n)}]\). Usando \(F(x)=x/\theta\) y la fórmula del máximo (módulo siguiente), \(f_{X_{(n)}}(x)=n f(x)[F(x)]^{n-1} = \frac{n}{\theta^n}x^{n-1}\) para \(0\le x\le\theta\). Entonces: \[ \mathbb{E}[X_{(n)}] = \int_0^\theta x\cdot\frac{n}{\theta^n}x^{n-1}\,dx = \frac{n}{\theta^n}\cdot\frac{\theta^{n+1}}{n+1} = \frac{n}{n+1}\theta. \] Por lo tanto: \[ \mathbb{E}[\hat\theta] = \frac{n+1}{n}\cdot\frac{n}{n+1}\theta = \theta. \] Ambos estimadores son insesgados, aunque tienen varianzas distintas — de hecho, \(\hat\theta\) (basado en el máximo) resulta tener menor varianza para \(n\) grande, lo que lo hace preferible en la práctica.
Estadísticos de orden

Distribución del Mínimo y Máximo

Para el máximo \(X_{(n)}\): \[ F_{X_{(n)}}(x) = [F(x)]^n, \quad f_{X_{(n)}}(x) = n f(x) [F(x)]^{n-1} \] Para el mínimo \(X_{(1)}\): \[ F_{X_{(1)}}(x) = 1 - [1 - F(x)]^n, \quad f_{X_{(1)}}(x) = n f(x) [1 - F(x)]^{n-1} \]

Distribuciones del mínimo y máximo para Uniforme(0,1)

10
Demostración para el máximo \[ \begin{align*} F_{X_{(n)}}(x) &= \mathbb{P}(X_{(n)} \le x) = \mathbb{P}(X_1 \le x, \ldots, X_n \le x) \\ &= \prod_{i=1}^n \mathbb{P}(X_i \le x) = [F(x)]^n \end{align*} \] Derivando: \(f_{X_{(n)}}(x) = n f(x) [F(x)]^{n-1}\)

Ejemplo del PDF: Para uniformes en (0,1), \(F(x)=x\). \[ f_{X_{(n)}}(x) = n x^{n-1}, \quad 0 \le x \le 1 \] \[ f_{X_{(1)}}(x) = n (1-x)^{n-1}, \quad 0 \le x \le 1 \] El mínimo tiende a 0 y el máximo tiende a 1 cuando \(n\) crece.

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 13, ej. 8) Sean \(X\) y \(Y\) variables aleatorias absolutamente continuas e independientes (no necesariamente idénticamente distribuidas). Defina \(V=\max\{X,Y\}\). Demuestre que \(f_V(v) = f_X(v)F_Y(v) + F_X(v)f_Y(v)\). Como \(X\) y \(Y\) son independientes: \[ F_V(v) = \mathbb{P}(\max\{X,Y\}\le v) = \mathbb{P}(X\le v, Y\le v) = F_X(v)F_Y(v). \] Derivando respecto a \(v\) con la regla del producto: \[ f_V(v) = \frac{d}{dv}\left[F_X(v)F_Y(v)\right] = f_X(v)F_Y(v) + F_X(v)f_Y(v). \] Este resultado generaliza la fórmula del máximo dada arriba: cuando \(X\) y \(Y\) son además idénticamente distribuidas (\(F_X=F_Y=F\), \(f_X=f_Y=f\)), se reduce a \(f_V(v)=2f(v)F(v)\), que coincide con \(nf(x)[F(x)]^{n-1}\) evaluado en \(n=2\).
Estadísticos de orden

Distribución del r-ésimo Estadístico de Orden

La función de densidad del r-ésimo estadístico de orden \(X_{(r)}\) es: \[ f_{X_{(r)}}(x) = n \binom{n-1}{r-1} f(x) [F(x)]^{r-1} [1 - F(x)]^{n-r} \]

Visualización: Densidad del percentil muestral

10 5
Interpretación intuitiva (argumento de Blitzstein & Hwang) Para que \(X_{(r)}\) caiga en \([x, x+dx]\):
  1. Una observación cae en \(dx\): \(n f(x) dx\)
  2. Elegir \((r-1)\) observaciones de las \((n-1)\) restantes que caen a la izquierda: \(\binom{n-1}{r-1} [F(x)]^{r-1}\)
  3. Las \((n-r)\) observaciones restantes caen a la derecha: \([1-F(x)]^{n-r}\)
Multiplicando se obtiene la fórmula.
¿Qué distribución tiene la mediana muestral para uniformes? Para \(n\) impar, \(r = (n+1)/2\). En uniformes (0,1), la densidad de la mediana es \[ f_{X_{(r)}}(x) = \frac{n!}{[(r-1)!]^2} x^{r-1} (1-x)^{r-1} \] ¡Es una distribución Beta(\(r, r\))!

Ejercicio

Sea \(X_1,\ldots,X_7\) una muestra de Uniforme(0,1). Encuentre la distribución de la mediana muestral \(X_{(4)}\) y calcule \(\mathbb{E}[X_{(4)}]\) y \(\operatorname{var}(X_{(4)})\). Con \(n=7\) (impar), la mediana es \(X_{(r)}\) con \(r=(7+1)/2=4\). Por el resultado de esta página, \(X_{(4)}\sim\text{Beta}(4,4)\). Usando las fórmulas de la Beta: \[ \mathbb{E}[X_{(4)}] = \frac{r}{r+r} = \frac{4}{8} = 0.5, \] \[ \operatorname{var}(X_{(4)}) = \frac{r\cdot r}{(2r)^2(2r+1)} = \frac{16}{64\times9} = \frac{16}{576} \approx 0.0278. \] Tiene sentido que \(\mathbb{E}[X_{(4)}]=0.5\): por simetría, la mediana muestral de una uniforme(0,1) debe concentrarse alrededor del centro del intervalo.
Estadísticos de orden

Distribución del Rango

El rango de la muestra es \(R = X_{(n)} - X_{(1)}\). Su densidad está dada por: \[ f_R(r) = n(n-1) \int_{-\infty}^{\infty} f(u) f(r+u) [F(r+u) - F(u)]^{n-2} du, \quad r \ge 0 \]

Distribución del rango para Uniforme(0,1)

10
Derivación de la densidad conjunta de (X₁, Xₙ) \[ \begin{align*} F_{1n}(x,y) &= \mathbb{P}(X_{(1)} \le x, X_{(n)} \le y) \\ &= \mathbb{P}(X_{(n)} \le y) - \mathbb{P}(X_{(1)} > x, X_{(n)} \le y) \\ &= [F(y)]^n - [F(y) - F(x)]^n \end{align*} \] Derivando: \(f_{1n}(x,y) = n(n-1) f(x) f(y) [F(y) - F(x)]^{n-2}\)

Ejemplo importante: Para uniformes en (0,1), la densidad del rango es \[ f_R(r) = n(n-1) r^{n-2} (1-r), \quad 0 \le r \le 1 \] ¡El rango tiene distribución Beta(\(n-1, 2\))!

¿Qué pasa con el rango cuando n crece? Para uniformes (0,1), \(\mathbb{E}[R] = \frac{n-1}{n+1} \to 1\) cuando \(n \to \infty\). El rango tiende a 1 (cubre todo el intervalo). La varianza \(\operatorname{var}(R) = \frac{2(n-1)}{(n+1)^2(n+2)} \to 0\).

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 13, ej. 2) Sea \(U=(U_1,\ldots,U_n)\) una muestra aleatoria de \(U\sim\text{Unif}(\mu-\theta,\mu+\theta)\). Encuentre la f.d.p. del rango muestral \(R(U)=U_{(n)}-U_{(1)}\). Como \(\text{Unif}(\mu-\theta,\mu+\theta) = \mu-\theta+2\theta\cdot\text{Unif}(0,1)\) (una transformación afín), el rango \(R\) de la muestra \(U\) es simplemente \(2\theta\) veces el rango \(R'\) de una muestra de \(n\) Uniforme(0,1) i.i.d. — la traslación por \(\mu-\theta\) se cancela al restar \(U_{(n)}-U_{(1)}\), y el reescalamiento por \(2\theta\) pasa directamente al rango.

Ya sabemos (ejemplo de esta página) que \(R'\sim\text{Beta}(n-1,2)\), con densidad \(f_{R'}(r')=n(n-1)r'^{n-2}(1-r')\) para \(0\le r'\le1\). Como \(R=2\theta R'\), usando el cambio de variable \(r'=r/(2\theta)\), \(dr'/dr=1/(2\theta)\): \[ f_R(r) = f_{R'}\!\left(\frac{r}{2\theta}\right)\cdot\frac{1}{2\theta} = \frac{n(n-1)}{2\theta}\left(\frac{r}{2\theta}\right)^{n-2}\left(1-\frac{r}{2\theta}\right), \quad 0\le r\le 2\theta. \]
Estadísticos de orden

Densidad Conjunta de los Estadísticos de Orden

La densidad conjunta de todos los estadísticos de orden es: \[ f_{X_{(1)},\ldots,X_{(n)}}(y_1,\ldots,y_n) = n! \prod_{i=1}^n f(y_i), \quad y_1 < y_2 < \cdots < y_n \]

Visualización: Espaciados de uniformes

5
Demostración La transformación de \((X_1,\ldots,X_n)\) a \((X_{(1)},\ldots,X_{(n)})\) es una permutación. Hay \(n!\) permutaciones posibles, cada una con determinante jacobiano 1. Por el teorema de transformación multivariado: \[ f_{Y}(y) = \sum_{\text{permutaciones}} f_X(h(y)) = n! \prod_{i=1}^n f(y_i), \quad y_1 < \cdots < y_n \]

Propiedad importante: Los espaciados \(D_i = X_{(i)} - X_{(i-1)}\) (con \(X_{(0)}=0\)) tienen propiedades especiales. Para uniformes (0,1), los vectores de espaciados tienen distribución Dirichlet con parámetros \(\alpha_i = 1\).

¿Cuál es la probabilidad de que \(X_k\) sea el mínimo de una muestra? Para exponenciales con tasas distintas: \[ \mathbb{P}(X_k = \min\{X_1,\ldots,X_n\}) = \frac{\lambda_k}{\sum_{i=1}^n \lambda_i} \] (resultado demostrado en el PDF). Para i.i.d., la probabilidad es \(1/n\).

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 13, ej. 7) Sean \(X_1,\ldots,X_n\) i.i.d. con densidad \(f(x)=\frac{1}{\theta}\mathbb{1}_{(0,\theta)}(x)\). Muestre que \(X_{(1)}/X_{(n)}\) y \(X_{(n)}\) son independientes. Con \(F(x)=x/\theta\), la densidad conjunta de \((X_{(1)},X_{(n)})\) (fórmula del módulo "Distribución del Rango") es: \[ f_{1n}(x,y) = n(n-1)f(x)f(y)[F(y)-F(x)]^{n-2} = \frac{n(n-1)}{\theta^n}(y-x)^{n-2}, \quad 0<x<y<\theta. \] Sea \(U=X_{(1)}/X_{(n)}\), \(V=X_{(n)}\), de modo que \(X_{(1)}=UV\), \(X_{(n)}=V\). El jacobiano de \((x,y)\to(u,v)\) es \(\left|\det\begin{pmatrix}v & u\\0 & 1\end{pmatrix}\right|=v\). Sustituyendo \(y-x=v-uv=v(1-u)\): \[ f_{U,V}(u,v) = \frac{n(n-1)}{\theta^n}\big[v(1-u)\big]^{n-2}\cdot v = \frac{n(n-1)}{\theta^n}(1-u)^{n-2}\,v^{n-1}, \quad 0<u<1,\ 0<v<\theta. \] ¡La densidad conjunta se factoriza en una función de \(u\) y una función de \(v\)! Por lo tanto \(U=X_{(1)}/X_{(n)}\) y \(V=X_{(n)}\) son independientes — integrando por separado se obtiene \(f_U(u)=(n-1)(1-u)^{n-2}\) (una Beta(1,n-1)) y \(f_V(v)=nv^{n-1}/\theta^n\) (la densidad del máximo ya conocida del módulo 2).
Estadísticos de orden

Aplicación: Personas en una milla

Problema: Se distribuyen \(n\) personas "al azar" a lo largo de una milla. ¿Cuál es la probabilidad de que no haya dos personas a menos de \(d\) millas de distancia?

Simulación del problema de las personas

3 0.20
Solución teórica (del PDF) La probabilidad es \(p = [1 - (n-1)d]^n\) para \(d < 1/(n-1)\).
Para \(n=3\), \(p = (1-2d)^3\).
La demostración usa la densidad conjunta de los estadísticos de orden: \[ p = \int_0^{1-(n-1)d} \int_{y_1+d}^{1-(n-2)d} \cdots \int_{y_{n-1}+d}^{1} n! \, dy_n \cdots dy_1 = [1-(n-1)d]^n \]
¿Qué pasa cuando \(d\) es muy pequeño o muy grande? Si \(d \to 0\), \(p \to 1\) (es fácil que no haya dos personas cerca). Si \(d \ge 1/(n-1)\), \(p = 0\) (es imposible que todas estén separadas por esa distancia, pues \((n-1)d\) excede la longitud total de la milla).

Ejercicio

Use la fórmula \(p=[1-(n-1)d]^n\) para calcular la probabilidad de que, entre 5 personas distribuidas al azar en la milla, ninguna esté a menos de \(d=0.1\) millas de otra. Primero verificamos que la fórmula aplica: necesitamos \(d < 1/(n-1) = 1/4 = 0.25\). Como \(d=0.1<0.25\), sí aplica.

Sustituyendo \(n=5\), \(d=0.1\): \[ p = [1-(5-1)(0.1)]^5 = [1-0.4]^5 = (0.6)^5 \approx 0.0778. \] Es decir, con 5 personas es bastante improbable (menos del 8%) que todas queden separadas por al menos 0.1 millas — compare esto con el simulador de arriba usando \(n=5\) (ajustando el slider) y \(d=0.1\).

Desigualdades

Desigualdades

Desigualdad de Markov

Desigualdad de Markov: Sea \(X\) una variable aleatoria no negativa con media finita \(\mu_X\). Entonces, para todo \(c > 0\): \[ \mathbb{P}(X \ge c) \le \frac{\mathbb{E}[X]}{c} = \frac{\mu_X}{c} \]

Verificación interactiva

2.0
Demostración (caso continuo) \[ \begin{align*} \mu_X &= \int_0^\infty x f(x) dx \ge \int_c^\infty x f(x) dx \ge c \int_c^\infty f(x) dx = c \cdot \mathbb{P}(X \ge c) \end{align*} \] Por lo tanto, \(\mathbb{P}(X \ge c) \le \mu_X / c\).

Ejemplo: Si el tiempo medio de reparación es 6.2 horas, ¿cuál es la probabilidad de que una reparación tome más de 22.5 horas?
Solución (Markov): \(\mathbb{P}(X \ge 22.5) \le \frac{6.2}{22.5} \approx 0.2756\)
La cota es débil, pero Chebyshev unilateral dará una mejor estimación.

¿Por qué Markov solo funciona para variables no negativas? La demostración usa que \(x \ge c\) dentro de la integral \(\int_c^\infty\). Si \(X\) pudiera tomar valores negativos, la desigualdad no se cumpliría (por ejemplo, una normal con media 0 daría \(\mathbb{P}(X \ge c) > 0\) pero el lado derecho sería 0).

Ejercicio

El tiempo de espera en una fila (una variable no negativa) tiene media 8 minutos. Acote \(\mathbb{P}(X\ge20)\) usando la desigualdad de Markov. Aplicando directamente la desigualdad con \(\mu_X=8\), \(c=20\): \[ \mathbb{P}(X\ge20) \le \frac{8}{20} = 0.4. \] Es decir, sin importar la forma exacta de la distribución del tiempo de espera, sabemos que hay a lo sumo 40% de probabilidad de esperar 20 minutos o más.
Desigualdades

Desigualdad de Chebyshev

Desigualdad de Chebyshev: Sea \(X\) con media \(\mu\) y varianza \(\sigma^2\) finitas. Entonces, para todo \(\epsilon > 0\): \[ \mathbb{P}(|X - \mu| \ge \epsilon) \le \frac{\sigma^2}{\epsilon^2} \] Equivalentemente, para \(k > 0\): \[ \mathbb{P}(|X - \mu| \ge k\sigma) \le \frac{1}{k^2}, \quad \mathbb{P}(|X - \mu| < k\sigma) \ge 1 - \frac{1}{k^2} \]

Visualización: Cota de Chebyshev vs probabilidad real

2.0
Demostración Sea \(Y = (X - \mu)^2 \ge 0\). Aplicando Markov a \(Y\) con \(c = \epsilon^2\): \[ \mathbb{P}((X-\mu)^2 \ge \epsilon^2) \le \frac{\mathbb{E}[(X-\mu)^2]}{\epsilon^2} = \frac{\sigma^2}{\epsilon^2} \] Como \(\{(X-\mu)^2 \ge \epsilon^2\} = \{|X-\mu| \ge \epsilon\}\), se obtiene el resultado.

Ejemplo del PDF (tienda): Número de clientes por día: media 20, desviación 2. \[ \mathbb{P}(17 \le X \le 23) = \mathbb{P}(|X-20| < 3) \ge 1 - \frac{4}{9} \approx 0.5556 \] Si usamos \(k=2\) (2 desviaciones): \(\mathbb{P}(|X-20| < 4) \ge 1 - 1/4 = 0.75\)
¡Chebyshev garantiza al menos 75% de probabilidad en el intervalo [16,24]!

¿Qué pasa si aplicamos Chebyshev a una distribución Cauchy? La Cauchy no tiene varianza finita, por lo que no se puede aplicar Chebyshev. El simulador lo detectará y mostrará un mensaje de advertencia. Esto muestra que Chebyshev requiere varianza finita.

Ejercicio

El peso de los paquetes producidos por una fábrica tiene media 50 kg y desviación estándar 4 kg. Acote \(\mathbb{P}(|X-50|\ge12)\) usando Chebyshev, y exprese el resultado también en términos de un intervalo garantizado. Con \(\sigma=4\), \(\epsilon=12\): \[ \mathbb{P}(|X-50|\ge12) \le \frac{\sigma^2}{\epsilon^2} = \frac{16}{144} = \frac{1}{9} \approx 0.1111. \] Equivalentemente, con \(k=\epsilon/\sigma=12/4=3\) desviaciones estándar: \[ \mathbb{P}(38 \le X \le 62) = \mathbb{P}(|X-50|<12) \ge 1-\frac{1}{9} = \frac{8}{9} \approx 0.8889. \] Sin conocer la forma exacta de la distribución de pesos, Chebyshev garantiza que al menos el 88.9% de los paquetes pesan entre 38 y 62 kg.
Desigualdades

Chebyshev Unilateral (Cantelli)

La desigualdad de Chebyshev unilateral (o de Cantelli) acota la probabilidad de una cola: \[ \mathbb{P}(X - \mu \ge a) \le \frac{\sigma^2}{\sigma^2 + a^2}, \quad a > 0 \] Análogamente, \(\mathbb{P}(X - \mu \le -a) \le \frac{\sigma^2}{\sigma^2 + a^2}\).

Comparación: Chebyshev bilateral vs unilateral

0 1.0 2.0
Esquema de demostración (Ross, 2006) Para cualquier \(t > 0\): \[ \mathbb{P}(X - \mu \ge a) = \mathbb{P}(X - \mu + t \ge a + t) \le \mathbb{P}((X - \mu + t)^2 \ge (a + t)^2) \] Aplicando Markov: \(\mathbb{P}((X - \mu + t)^2 \ge (a + t)^2) \le \frac{\mathbb{E}[(X - \mu + t)^2]}{(a + t)^2} = \frac{\sigma^2 + t^2}{(a + t)^2}\)
Minimizando sobre \(t > 0\) se obtiene la cota \(\frac{\sigma^2}{\sigma^2 + a^2}\).

Ejemplo del PDF (reparación de máquina):
Tiempo medio: \(\mu = 6.2\) h, desviación \(\sigma = 3.52\) h.
Empleado nuevo tarda 22.5 h → \(a = 22.5 - 6.2 = 16.3\) \[ \mathbb{P}(X \ge 22.5) = \mathbb{P}(X - \mu \ge 16.3) \le \frac{3.52^2}{3.52^2 + 16.3^2} = \frac{12.39}{12.39 + 265.69} = 0.0446 \] ¡Solo 4.46% de probabilidad! → El empleado probablemente necesita entrenamiento.

¿Por qué la cota unilateral es más ajustada que la bilateral? La cota bilateral \(\mathbb{P}(|X-\mu| \ge a) \le \sigma^2/a^2\) considera ambas colas. Para una cola, la probabilidad es aproximadamente la mitad, y la cota unilateral \(\sigma^2/(\sigma^2+a^2)\) es más pequeña (mejor) que \(\sigma^2/a^2\) cuando \(a\) es grande.

Ejercicio

Los ingresos mensuales de cierta población (en miles de pesos) tienen media \(\mu=500\) y desviación \(\sigma=150\). Acote \(\mathbb{P}(X\ge800)\) usando Cantelli, y compárela con la cota bilateral de Chebyshev. Con \(a=800-500=300\), la cota de Cantelli es: \[ \mathbb{P}(X\ge800) = \mathbb{P}(X-\mu\ge300) \le \frac{\sigma^2}{\sigma^2+a^2} = \frac{150^2}{150^2+300^2} = \frac{22500}{112500} = 0.2. \] Comparando con la cota bilateral de Chebyshev, \(\mathbb{P}(|X-\mu|\ge300)\le\sigma^2/a^2 = 22500/90000 = 0.25\): \[ \text{Cantelli: } 0.2 \quad < \quad \text{Chebyshev bilateral: } 0.25. \] Como se esperaba, la cota unilateral (Cantelli) es más ajustada (menor) que la bilateral, porque Cantelli aprovecha que solo nos interesa una cola (ingresos altos), no ambas.
Desigualdades

Desigualdad de Jensen

Desigualdad de Jensen: Si \(h\) es una función convexa, entonces \[ \mathbb{E}[h(X)] \ge h(\mathbb{E}[X]) \] Si \(h\) es cóncava, la desigualdad se invierte: \[ \mathbb{E}[h(X)] \le h(\mathbb{E}[X]) \]

Verificación de Jensen para diferentes funciones

Demostración geométrica Para una función convexa \(h\), existe una recta soporte \(\ell(x) = a + bx\) que pasa por \((\mathbb{E}[X], h(\mathbb{E}[X]))\) y satisface \(h(x) \ge \ell(x)\) para todo \(x\).
Tomando esperanza: \[ \mathbb{E}[h(X)] \ge \mathbb{E}[\ell(X)] = a + b\mathbb{E}[X] = \ell(\mathbb{E}[X]) = h(\mathbb{E}[X]) \]

Ejemplo del PDF: Sea \(X \sim \text{Unif}(0,1)\). \(h(x) = x^2\) (convexa). \[ \mathbb{E}[X] = \frac{1}{2}, \quad h(\mathbb{E}[X]) = \frac{1}{4} \] \[ \mathbb{E}[h(X)] = \mathbb{E}[X^2] = \frac{1}{3} \approx 0.3333 \ge 0.25 \] ¡Se cumple la desigualdad!

Aplicación importante: ¿Qué dice Jensen sobre \(\mathbb{E}[1/X]\) vs \(1/\mathbb{E}[X]\)? La función \(h(x) = 1/x\) es convexa para \(x > 0\). Por Jensen: \[ \mathbb{E}[1/X] \ge 1/\mathbb{E}[X] \] Esto es útil en finanzas (el rendimiento esperado de un activo no es el recíproco del rendimiento esperado de su inverso).

Ejercicio

Sea \(X\sim\text{Exponencial}(\lambda=1)\) y \(h(x)=\sqrt{x}\) (cóncava para \(x\ge0\)). Verifique la desigualdad de Jensen calculando \(\mathbb{E}[\sqrt{X}]\) y \(\sqrt{\mathbb{E}[X]}\). Como \(X\sim\text{Exp}(1)=\text{Gamma}(\alpha=1,\lambda=1)\), \(\mathbb{E}[X]=1\), así que \(\sqrt{\mathbb{E}[X]}=1\).

Para \(\mathbb{E}[\sqrt{X}]=\mathbb{E}[X^{1/2}]\), usamos la fórmula general de momentos de la Gamma (vista en el capítulo de FGM), \(\mathbb{E}[Y^a]=\beta^a\Gamma(\alpha+a)/\Gamma(\alpha)\), con \(\alpha=1\), \(\beta=1\), \(a=1/2\): \[ \mathbb{E}[\sqrt{X}] = \Gamma(1.5) = \frac{\sqrt{\pi}}{2} \approx 0.8862. \] Como \(h\) es cóncava, Jensen predice \(\mathbb{E}[h(X)]\le h(\mathbb{E}[X])\), y efectivamente: \[ \mathbb{E}[\sqrt{X}] \approx 0.8862 \le 1 = \sqrt{\mathbb{E}[X]}. \] Se cumple la desigualdad, con una brecha considerable — la raíz cuadrada "comprime" los valores grandes de \(X\) más de lo que "expande" los pequeños, así que promediar después de aplicar \(\sqrt{\cdot}\) da un valor menor que aplicar \(\sqrt{\cdot}\) después de promediar.
Desigualdades

Comparación de Cotas: Markov vs Chebyshev vs Unilateral

Para una variable positiva con media \(\mu\) y varianza \(\sigma^2\), comparamos las tres cotas: \[ \begin{aligned} \text{Markov: } & \mathbb{P}(X \ge a) \le \frac{\mu}{a} \\ \text{Chebyshev: } & \mathbb{P}(|X-\mu| \ge a) \le \frac{\sigma^2}{a^2} \\ \text{Cantelli: } & \mathbb{P}(X-\mu \ge a) \le \frac{\sigma^2}{\sigma^2 + a^2} \end{aligned} \]

Comparación interactiva

5.0 2.0 8.0

Observaciones:

  • Markov solo usa la media, es la más débil pero requiere menos información.
  • Chebyshev usa media y varianza, pero considera ambas colas.
  • Cantelli (unilateral) es la más ajustada para una cola.
  • Para variables simétricas, Chebyshev bilateral puede ser mejor para intervalos centrados.
¿Cuál cota usarías para estimar el riesgo de pérdidas financieras? Para riesgos asimétricos (pérdidas), se usa la desigualdad de Cantelli (unilateral) porque solo nos interesa la cola inferior (pérdidas grandes). También existen desigualdades más avanzadas como Chernoff o Hoeffding.

Ejercicio

Sea \(X\) una variable positiva con \(\mu=10\), \(\sigma=3\). Calcule las tres cotas (Markov, Chebyshev, Cantelli) para \(\mathbb{P}(X\ge25)\) — es decir, con \(a=25\) para Markov y \(a=25-10=15\) para Chebyshev/Cantelli — y ordénelas de más débil a más ajustada. Markov (usa \(\mathbb{P}(X\ge a)\) directamente con \(a=25\)): \[ \mathbb{P}(X\ge25) \le \frac{\mu}{a} = \frac{10}{25} = 0.4. \] Chebyshev (usa \(a=X\)-desplazamiento respecto a la media, \(a=15\)): \[ \mathbb{P}(X\ge25) = \mathbb{P}(X-\mu\ge15) \le \mathbb{P}(|X-\mu|\ge15) \le \frac{\sigma^2}{a^2} = \frac{9}{225} = 0.04. \] Cantelli (con el mismo \(a=15\)): \[ \mathbb{P}(X-\mu\ge15) \le \frac{\sigma^2}{\sigma^2+a^2} = \frac{9}{9+225} = \frac{9}{234} \approx 0.0385. \] Ordenando de más débil a más ajustada: Markov (0.4) > Chebyshev (0.04) > Cantelli (0.0385). Aquí Markov es dramáticamente más débil porque solo usa la media; Chebyshev y Cantelli, al incorporar la varianza, dan cotas mucho más informativas, y Cantelli es ligeramente mejor que Chebyshev por aprovechar que solo nos interesa una cola.

Sucesión de variables aleatorias y teorema límite

Sucesión de variables aleatorias y teorema límite

Modos de Convergencia de Variables Aleatorias

Existen cuatro modos principales de convergencia para sucesiones de variables aleatorias:
  • Convergencia casi segura (c.s.): \(X_n \xrightarrow{c.s.} X\) si \(\mathbb{P}(\lim_{n\to\infty} X_n = X) = 1\)
  • Convergencia en probabilidad (P): \(X_n \xrightarrow{P} X\) si \(\forall \epsilon>0, \lim_{n\to\infty} \mathbb{P}(|X_n-X|>\epsilon)=0\)
  • Convergencia en media cuadrática (m.c.): \(X_n \xrightarrow{m.c.} X\) si \(\lim_{n\to\infty} \mathbb{E}[(X_n-X)^2]=0\)
  • Convergencia en distribución (D): \(X_n \xrightarrow{D} X\) si \(F_{X_n}(x) \to F_X(x)\) en puntos de continuidad

Visualización: Media muestral convergiendo a la media poblacional

Relaciones entre modos de convergencia:

  • Convergencia c.s. \(\Rightarrow\) Convergencia en probabilidad \(\Rightarrow\) Convergencia en distribución
  • Convergencia en m.c. \(\Rightarrow\) Convergencia en probabilidad
  • Los recíprocos no son ciertos en general
¿Puede haber convergencia en distribución sin convergencia en probabilidad? ¡Sí! Por ejemplo, si \(X_n = X\) para todo n, pero \(X_n\) e \(Y\) tienen la misma distribución, entonces \(X_n \xrightarrow{D} Y\) pero no necesariamente converge en probabilidad. La convergencia en distribución es la más débil.

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 14, ej. 2) Sean \(X_1,X_2,\ldots\) variables aleatorias independientes idénticamente distribuidas con \(\mathbb{E}[X_i]=\mu\), \(\operatorname{var}(X_i)=\sigma^2<\infty\) y f.d.a. \(F\). Para \(n\in\mathbb{N}\) y \(x\in\mathbb{R}\) fijos se define \(F_n(x)=\frac{1}{n}\sum_{i=1}^n\mathbb{1}_{(-\infty,x]}(X_i)\). (a) Encuentre \(\mathbb{E}[\sqrt{n}(F_n(x)-F(x))]\). (b) Determine \(\operatorname{var}[\sqrt{n}(F_n(x)-F(x))]\). (c) Muestre que para todo \(x\in\mathbb{R}\), \(\{F_n(x)\}\) converge en probabilidad a \(F(x)\). Sea \(Y_i=\mathbb{1}_{(-\infty,x]}(X_i)\). Como \(\mathbb{P}(X_i\le x)=F(x)\), \(Y_i\sim\text{Bernoulli}(F(x))\) i.i.d., y \(F_n(x)=\bar{Y}_n\) es su media muestral.

(a) \(\mathbb{E}[F_n(x)]=F(x)\), así que \(\mathbb{E}[\sqrt{n}(F_n(x)-F(x))] = \sqrt{n}\cdot 0 = 0\).

(b) \(\operatorname{var}(Y_i)=F(x)(1-F(x))\), y \(\operatorname{var}(F_n(x))=F(x)(1-F(x))/n\). Entonces: \[ \operatorname{var}[\sqrt{n}(F_n(x)-F(x))] = n\cdot\frac{F(x)(1-F(x))}{n} = F(x)(1-F(x)). \] (c) Por Chebyshev, para cualquier \(\epsilon>0\): \[ \mathbb{P}(|F_n(x)-F(x)|\ge\epsilon) \le \frac{\operatorname{var}(F_n(x))}{\epsilon^2} = \frac{F(x)(1-F(x))}{n\epsilon^2} \xrightarrow{n\to\infty} 0. \] Por lo tanto \(F_n(x)\xrightarrow{P}F(x)\) — esta es la base teórica de la función de distribución empírica, que converge en probabilidad (de hecho, uniformemente, por el teorema de Glivenko-Cantelli) a la verdadera distribución.
Sucesión de variables aleatorias y teorema límite

Ley de los Grandes Números (LGN)

Ley Débil de los Grandes Números (LDGN): \[ \bar{X}_n = \frac{1}{n}\sum_{i=1}^n X_i \xrightarrow{P} \mu = \mathbb{E}[X_1] \] Ley Fuerte de los Grandes Números (LFGN): \[ \bar{X}_n \xrightarrow{c.s.} \mu \]

Simulación: Convergencia de la media muestral

100
Demostración de la LDGN (con varianza finita) \[ \mathbb{P}(|\bar{X}_n - \mu| \ge \epsilon) \le \frac{\operatorname{var}(\bar{X}_n)}{\epsilon^2} = \frac{\sigma^2/n}{\epsilon^2} \to 0 \text{ cuando } n \to \infty \] Por lo tanto, \(\bar{X}_n \xrightarrow{P} \mu\).

Ejemplo del PDF (encuesta): Para estimar una proporción p con precisión ϵ=0.05 y confianza 90% (δ=0.10): \[ n \ge \frac{1}{4\delta\epsilon^2} = \frac{1}{4 \cdot 0.10 \cdot (0.05)^2} = 1000 \] ¡Se necesitan al menos 1000 encuestas!

¿Por qué la LGN es fundamental en Estadística? La LGN justifica que la media muestral es un estimador consistente de la media poblacional. Es la base de la inferencia estadística: al aumentar el tamaño de muestra, nuestras estimaciones se acercan a los verdaderos valores poblacionales.

Ejercicio

Usando la misma cota de Chebyshev del "Ejemplo del PDF" (\(n\ge\frac{1}{4\delta\epsilon^2}\)), calcule cuántas encuestas se necesitan para estimar una proporción con precisión \(\epsilon=0.02\) y confianza 95% (\(\delta=0.05\)). Sustituyendo directamente: \[ n \ge \frac{1}{4\delta\epsilon^2} = \frac{1}{4(0.05)(0.02)^2} = \frac{1}{0.00008} = 12{,}500. \] Se necesitarían 12,500 encuestas — mucho más que las 1000 del ejemplo, porque se pidió el doble de precisión (\(\epsilon\) más pequeña, que entra al cuadrado en el denominador) y más confianza (\(\delta\) más pequeña). Esta cota de Chebyshev es conservadora; en el módulo de Aplicaciones del TCL se verá una fórmula más ajustada (basada en la aproximación normal) que típicamente pide muestras bastante más pequeñas para la misma precisión y confianza.
Sucesión de variables aleatorias y teorema límite

Teorema Central del Límite (TCL)

Teorema Central del Límite (Lindberg-Lévy): \[ Z_n = \frac{\bar{X}_n - \mu}{\sigma/\sqrt{n}} = \frac{S_n - n\mu}{\sigma\sqrt{n}} \xrightarrow{D} Z \sim N(0,1) \] Es decir, para n grande, \(\bar{X}_n \approx N(\mu, \sigma^2/n)\).

Visualización del TCL para diferentes distribuciones

30
Esquema de demostración (usando FGM) Para variables estandarizadas con media 0 y varianza 1: \[ m_{\sqrt{n}\bar{X}_n}(t) = \left[m_X\left(\frac{t}{\sqrt{n}}\right)\right]^n \] Tomando logaritmo y usando expansión de Taylor: \[ \log m_X(s) = \frac{s^2}{2} + o(s^2) \] \[ n \log m_X\left(\frac{t}{\sqrt{n}}\right) \to \frac{t^2}{2} \] Por lo tanto, \(m_{\sqrt{n}\bar{X}_n}(t) \to e^{t^2/2}\), que es la FGM de \(N(0,1)\).

Ejemplo del PDF (lámparas): Tiempo de vida exponencial con media 10 días. Probabilidad de que 50 lámparas duren menos de 365 días: \[ \mathbb{P}(S_{50} < 365) \approx \Phi\left(\frac{365 - 50\cdot10}{10\sqrt{50}}\right) = \Phi\left(\frac{-135}{70.71}\right) = \Phi(-1.91) \approx 0.028 \] ¡Solo 2.8% de probabilidad!

¿Qué pasa si aplicamos TCL a una distribución Cauchy? La distribución Cauchy no tiene varianza finita, por lo que el TCL no aplica. De hecho, la media muestral de Cauchy sigue siendo Cauchy (no se concentra). ¡Es el contraejemplo clásico del TCL!

Ejercicio

El tiempo de vida de una batería es exponencial con media 5 horas. Se conectan 40 baterías independientes en serie, de modo que el sistema completo dura la suma \(S_{40}\) de sus tiempos de vida. Aproxime \(\mathbb{P}(S_{40}>220 \text{ horas})\) usando el TCL. Para \(X_i\sim\text{Exponencial}(\text{media}=5)\), \(\mu=5\) y \(\sigma=5\) (para la exponencial, la desviación estándar es igual a la media). Con \(n=40\): \[ \mathbb{E}[S_{40}] = n\mu = 40(5) = 200, \qquad \operatorname{var}(S_{40}) = n\sigma^2 = 40(25) = 1000, \qquad \text{sd}(S_{40})=\sqrt{1000}\approx31.62. \] Usando la aproximación normal: \[ \mathbb{P}(S_{40}>220) \approx 1-\Phi\left(\frac{220-200}{31.62}\right) = 1-\Phi(0.632) \approx 1-0.7365 = 0.2635. \] Hay aproximadamente 26.35% de probabilidad de que el sistema dure más de 220 horas.
Sucesión de variables aleatorias y teorema límite

Aplicaciones: Encuestas y Márgenes de Error

Para una proporción poblacional \(p\), el estimador \(\hat{p} = \bar{X}_n\) satisface: \[ \hat{p} \approx N\left(p, \frac{p(1-p)}{n}\right) \] El margen de error para un nivel de confianza del 95% es aproximadamente \(1.96\sqrt{\frac{p(1-p)}{n}} \approx \frac{1}{\sqrt{n}}\).

Calculadora de tamaño de muestra para encuestas

0.50 0.030
Fórmula del tamaño de muestra \[ n = \frac{z_{\alpha/2}^2 \cdot p(1-p)}{E^2} \] Cuando \(p\) es desconocido, se usa \(p=0.5\) (máxima varianza): \(n \approx \frac{z_{\alpha/2}^2}{4E^2}\).
Para 95% confianza y E=0.03: \(n \approx \frac{1.96^2}{4 \cdot 0.0009} \approx 1067\).

Ejemplo del PDF (cálculos):

  • n=900, E=0.025, p desconocida → probabilidad ≈ 13.36% de error >2.5%
  • Para error <2.5% con 99% confianza: n ≈ 2654
¿Por qué se usa p=0.5 cuando no se conoce la proporción real? Porque \(p(1-p)\) es máximo en \(p=0.5\). Usar p=0.5 da el tamaño de muestra más grande posible, garantizando que el margen de error no será mayor que el especificado sin importar el verdadero valor de p.

Ejercicio

Calcule el tamaño de muestra necesario para estimar una proporción desconocida (use \(p=0.5\)) con margen de error \(E=0.02\) y 99% de confianza (\(z=2.576\)). Usando la fórmula conservadora \(n\approx z_{\alpha/2}^2/(4E^2)\): \[ n \approx \frac{2.576^2}{4(0.02)^2} = \frac{6.636}{0.0016} \approx 4147.4. \] Como el tamaño de muestra debe ser un entero y necesitamos al menos esa precisión, se redondea hacia arriba: \(n=4148\). Note que esto es considerablemente menor que las 12,500 encuestas obtenidas en el módulo de LGN con la cota de Chebyshev para una precisión similar — la aproximación normal (TCL) es mucho más ajustada que la cota conservadora de Chebyshev.
Sucesión de variables aleatorias y teorema límite

Teorema de Slutsky y Resultados Relacionados

Teorema de Slutsky: Si \(X_n \xrightarrow{D} X\) y \(Y_n \xrightarrow{P} c\) (constante), entonces:
  • \(X_n + Y_n \xrightarrow{D} X + c\)
  • \(X_n Y_n \xrightarrow{D} cX\)
  • \(X_n / Y_n \xrightarrow{D} X/c\) (si \(c \neq 0\))

Verificación: Teorema de Slutsky con simulación

1.0

Teorema de Mapeo Continuo: Si \(g\) es continua y \(X_n \xrightarrow{D} X\), entonces \(g(X_n) \xrightarrow{D} g(X)\).
Aplicación importante: Si \(Z_n \xrightarrow{D} N(0,1)\), entonces \(Z_n^2 \xrightarrow{D} \chi^2_1\).

¿Qué aplicación tiene Slutsky en la práctica estadística? Slutsky es fundamental para justificar que si \(\hat{\sigma}^2\) es un estimador consistente de \(\sigma^2\), entonces \(\frac{\bar{X}_n - \mu}{\hat{\sigma}/\sqrt{n}} \xrightarrow{D} N(0,1)\). ¡Permite usar la desviación estándar muestral en intervalos de confianza!

Ejercicio

Sea \(\bar{X}_n\) la media muestral de \(n=100\) observaciones i.i.d. Bernoulli(0.3). Use el TCL y el Teorema de Mapeo Continuo para describir la distribución límite de \(W_n = \dfrac{n(\bar{X}_n-0.3)^2}{0.3\times0.7}\). Por el TCL, con \(p=0.3\), \(p(1-p)=0.21\): \[ Z_n = \frac{\bar{X}_n - 0.3}{\sqrt{0.21/n}} = \sqrt{n}\cdot\frac{\bar{X}_n-0.3}{\sqrt{0.21}} \xrightarrow{D} Z\sim N(0,1). \] Reescribiendo \(W_n\) en términos de \(Z_n\): \[ W_n = \frac{n(\bar{X}_n-0.3)^2}{0.21} = \left(\sqrt{n}\cdot\frac{\bar{X}_n-0.3}{\sqrt{0.21}}\right)^2 = Z_n^2. \] Aplicando el Teorema de Mapeo Continuo con la función continua \(g(z)=z^2\) a \(Z_n\xrightarrow{D}Z\sim N(0,1)\): \[ W_n = Z_n^2 \xrightarrow{D} Z^2 \sim \chi^2_1. \] Este resultado — que el cuadrado de un estadístico estandarizado asintóticamente normal converge a una \(\chi^2_1\) — es exactamente la base de las pruebas de bondad de ajuste y de las pruebas de proporciones en estadística inferencial.

Distribuciones Condicionales

Distribuciones Condicionales

Caso discreto: masa condicional y regla de Bayes

Intuición: Cuando observamos un valor específico de una variable, actualizamos nuestra creencia sobre la otra. Por ejemplo, si lanzamos dos dados pero sabemos que el segundo dado (Y) es un número par, la probabilidad de que X sea 3 cambia. La función de masa condicional \(f(x|y)\) reescala la conjunta.

Simulador: dados cargados (ejemplo del apunte)

Distribución conjunta modificable: ajusta los pesos relativos de cada celda (X filas 1..6, Y columnas 1..6). Observa la tabla condicional \(f(x|Y=2)\).

2
Ver respuesta exploratoria Al modificar el peso (2,2), la fila Y=2 concentra más masa en x=2. Observa que la suma sobre x siempre es 1. La fórmula \(f(x|y)=f(x,y)/f_Y(y)\) se verifica: la probabilidad condicional refleja la nueva escala.

Notación formal (discreta): Sean \(X,Y\) discretas con \(f(x,y)\). Para \(f_Y(y)>0\): \[ f_{X|Y}(x|y) = \frac{f(x,y)}{f_Y(y)}, \quad \mathbb{P}(X=x|Y=y) = f(x|y). \] Regla de Bayes: \( f(y|x) = \frac{f(x|y)f_Y(y)}{\sum_{y'}f(x|y')f_Y(y')} \).

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 3, ej. 2) De un grupo de 9 estudiantes internacionales: 4 mexicanos, 2 españoles y 3 franceses, se eligen tres estudiantes para otorgarles una beca. Sea \(X\) el número de estudiantes mexicanos elegidos, \(Y\) el número de españoles elegidos, y \(Z\) el número de franceses elegidos. Si se sabe que exactamente un francés recibió beca, calcule el número esperado de españoles que recibirán beca. Condicionar en \(Z=1\) (exactamente un francés elegido) significa que los otros 2 lugares de la beca se reparten entre los 6 estudiantes no franceses (4 mexicanos + 2 españoles), elegidos sin reemplazo. Así, condicional a \(Z=1\), \(Y\) sigue una distribución Hipergeométrica con \(N=6\) (población no francesa), \(M=2\) (españoles), \(n=2\) (lugares restantes): \[ \mathbb{E}[Y\mid Z=1] = n\cdot\frac{M}{N} = 2\cdot\frac{2}{6} = \frac{2}{3} \approx 0.667. \] Este es un ejemplo directo de \(f_{Y|Z}(y|z)=f(y,z)/f_Z(z)\): condicionar en el conteo de una categoría dentro de un muestreo sin reemplazo multivariado reduce el problema a una hipergeométrica sobre las categorías restantes — la misma idea vista en el capítulo de la distribución multinomial.
Distribuciones Condicionales

Caso continuo: densidad condicional y ley del estadístico inconsciente

Intuición: En el mundo continuo, condicionar en un evento de probabilidad cero (Y=y) requiere límites. La densidad condicional \(f(x|y)\) es un "corte" de la superficie conjunta, normalizado. Piensa en la recta de regresión: la esperanza condicional \(E[X|Y=y]\) es la mejor predicción de X dado Y.

Simulador: densidad condicional exponencial (ejemplo del PDF)

Densidad conjunta: \( f(x,y) = \frac{1}{y} e^{-x/y} e^{-y} \), para \(x>0,y>0\). Dado \(Y=y\), \(X|Y=y \sim \text{Exp}(1/y)\).

y = 2.0

Ver insight teórico La densidad condicional es \(f(x|y) = \frac{1}{y} e^{-x/y}\) (exponencial con media y). La esperanza condicional \(E[X|Y=y]=y\). Ley de esperanza total: \(E[X] = E[E[X|Y]] = E[Y] = 1\) (pues \(Y \sim Exp(1)\)). Arrastra y observa cómo la curva se aplana o encoge.

Notación continua: \( f_{X|Y}(x|y) = \frac{f(x,y)}{f_Y(y)} \). \[ \mathbb{P}(a \le X \le b | Y=y) = \int_a^b f(x|y)dx,\quad \mathbb{E}[X|Y=y] = \int x f(x|y)dx. \]

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 3, ej. 1b) Las concentraciones de monóxido de carbono (X) y de bióxido de carbono (Y) en las emisiones de un coche elegido al azar siguen una distribución conjunta \(f_{X,Y}(x,y)=2e^{-x-y}\mathbb{1}_{\{0\le y<x<\infty\}}(x,y)\). Si se observa una concentración de \(Y=2\), ¿cuál es la probabilidad de que la concentración de monóxido de carbono (X) sea mayor que 4? Primero encontramos la marginal de \(Y\), integrando sobre \(x\) desde \(y\) hasta \(\infty\) (por el soporte \(x>y\)): \[ f_Y(y) = \int_y^\infty 2e^{-x-y}\,dx = 2e^{-y}\int_y^\infty e^{-x}\,dx = 2e^{-y}\cdot e^{-y} = 2e^{-2y}, \quad y>0. \] La densidad condicional es entonces: \[ f(x|y) = \frac{f(x,y)}{f_Y(y)} = \frac{2e^{-x-y}}{2e^{-2y}} = e^{-(x-y)}, \quad x>y, \] es decir, \((X-y)\mid Y=y\sim\text{Exponencial}(1)\) — la misma estructura de "exponencial desplazada" vista en el ejemplo de esta página. Entonces: \[ \mathbb{P}(X>4\mid Y=2) = \mathbb{P}(X-2>2\mid Y=2) = e^{-2} \approx 0.1353. \]
Distribuciones Condicionales

Esperanza y varianza condicional: leyes de la probabilidad total

Intuición: La esperanza condicional \(E[Y|X]\) es una variable aleatoria que resume la tendencia de Y cuando conocemos X. La Ley de Esperanza Total dice que en promedio, la predicción condicional da la media global. La Ley de Varianza Total descompone la varianza en "explicada" por X y "residual".

Simulador: mezcla Poisson-Gamma (número de accidentes)

Supongamos \(N|\Lambda=\lambda \sim Poisson(\lambda)\) y \(\Lambda \sim Gamma(\alpha, \beta)\). Marginalmente \(N \sim\) Binomial Negativa. Ajusta los parámetros y observa la esperanza condicional.

2.0
2.0

Media teórica de N: -

Valor simulado: -

Verificación de leyes: \(E[N] = E[E[N|\Lambda]] = E[\Lambda] = \alpha\beta\). Varianza total: \(Var(N) = E[Var(N|\Lambda)] + Var(E[N|\Lambda]) = E[\Lambda] + Var(\Lambda) = \alpha\beta + \alpha\beta^2\).

Explicación interactiva Usando la ley de esperanza total: \(E[N] = E[\Lambda] = \alpha\beta\). La ley de varianza total separa la variabilidad entre individuos (diferente lambda) y la variabilidad Poisson pura. Juega con α y β para ver cómo cambia la media condicional y marginal.

Teoremas clave: \[ \mathbb{E}[Y] = \mathbb{E}[\mathbb{E}[Y|X]], \quad \operatorname{Var}(Y) = \mathbb{E}[\operatorname{Var}(Y|X)] + \operatorname{Var}(\mathbb{E}[Y|X]). \]

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 4, ej. 3) Se tiran dos dados honestos y la suma de las caras se denota por \(N\). Luego se tira \(N\) veces una moneda cargada al águila con \(p=0.55\), y se denota por \(Y\) el número de águilas obtenidas. Determine \(\mathbb{E}[Y]\) y \(\operatorname{Var}(Y)\). Dado \(N\), \(Y|N=n\sim\text{Bin}(n,0.55)\), así que \(\mathbb{E}[Y|N]=0.55N\) y \(\operatorname{Var}(Y|N)=0.55(0.45)N\). Para \(N\), la suma de dos dados: \(\mathbb{E}[N]=7\), \(\operatorname{Var}(N)=2\cdot\frac{35}{12}=\frac{35}{6}\approx5.833\) (varianza de un dado: \(\frac{35}{12}\), y los dos dados son independientes).

Por la ley de esperanza total: \[ \mathbb{E}[Y] = \mathbb{E}[\mathbb{E}[Y|N]] = \mathbb{E}[0.55N] = 0.55(7) = 3.85. \] Por la ley de varianza total: \[ \operatorname{Var}(Y) = \mathbb{E}[\operatorname{Var}(Y|N)] + \operatorname{Var}(\mathbb{E}[Y|N]) = 0.55(0.45)\mathbb{E}[N] + 0.55^2\operatorname{Var}(N) \] \[ = 0.2475(7) + 0.3025\left(\frac{35}{6}\right) \approx 1.7325 + 1.7646 = 3.4971. \]
Distribuciones Condicionales

Teorema de Probabilidad Total y regla de Bayes (discreto/continuo)

Intuición: El Teorema de Probabilidad Total nos permite obtener la distribución marginal a partir de las condicionales. La regla de Bayes invierte el condicionamiento: actualizamos nuestra creencia sobre un parámetro después de observar datos.

Ejemplo: calidad de piezas (discreto-continuo)

Una máquina produce piezas defectuosas con tasa Θ (probabilidad de defecto) que varía entre lotes: Θ ∼ Beta(a,b). Luego, D | Θ = θ ∼ Bernoulli(θ). Modelo Beta-Binomial.

2.0
2.0
Posterior: Beta(a+k, b+n-k)
Ver respuesta conceptual Teorema de Probabilidad Total: \(P(Datos) = \int P(Datos|\theta) f_\Theta(\theta)d\theta\). Bayes: \(f(\theta|datos) \propto f(datos|\theta)f_\Theta(\theta)\). La distribución posterior es Beta(a+k, b+n-k), combinando información previa y evidencia.

Fórmulas: Probabilidad total: \(f_X(x) = \sum_y f(x|y)f_Y(y)\) (discreto) o integral (continuo). Regla de Bayes: \(f(y|x) = \frac{f(x|y)f_Y(y)}{\int f(x|v)f_Y(v)dv}\).

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 4, ej. 4) De acuerdo con estadísticas de una compañía aseguradora, el 60% de los conductores se clasifican como buenos conductores y el resto como malos. Para buenos conductores, el monto promedio de reclamación es de $1,400 con varianza 40,000. Para los malos conductores, el monto medio de reclamación es de $2,000 con varianza 250,000. Calcule la varianza del monto de un siniestro seleccionado aleatoriamente. Sea \(I\) el tipo de conductor (bueno con probabilidad 0.6, malo con 0.4) y \(X\) el monto de reclamación. Primero, la media total por probabilidad total: \[ \mathbb{E}[X] = 0.6(1400) + 0.4(2000) = 840+800 = 1640. \] Usando la ley de varianza total, \(\operatorname{Var}(X)=\mathbb{E}[\operatorname{Var}(X|I)]+\operatorname{Var}(\mathbb{E}[X|I])\): \[ \mathbb{E}[\operatorname{Var}(X|I)] = 0.6(40{,}000) + 0.4(250{,}000) = 24{,}000+100{,}000 = 124{,}000, \] \[ \operatorname{Var}(\mathbb{E}[X|I]) = 0.6(1400-1640)^2 + 0.4(2000-1640)^2 = 0.6(57{,}600)+0.4(129{,}600) = 34{,}560+51{,}840 = 86{,}400. \] Sumando: \[ \operatorname{Var}(X) = 124{,}000 + 86{,}400 = 210{,}400. \] La varianza total combina la variabilidad "dentro de cada grupo" (124,000) más la variabilidad "entre grupos" causada por no saber de antemano si el conductor es bueno o malo (86,400) — exactamente el mismo principio de descomposición usado en el simulador Poisson-Gamma de la página anterior.

Vectores Aleatorios

Vectores Aleatorios

Espacios de Probabilidad

Un espacio de probabilidad es el escenario donde ocurre lo aleatorio. Considere un experimento \(\mathcal{E}\) cuyo resultado \(\omega\) no es posible predecir (un experimento aleatorio, EA). El conjunto de posibles resultados se llama espacio muestral \(\Omega\).

Sea \(\mathcal{F}\) un álgebra de subconjuntos de \(\Omega\): cerrada bajo uniones finitas y bajo complementos. Si además \(\mathcal{F}\) es cerrada bajo uniones numerables, se dice \(\sigma\)-álgebra, y a sus elementos se les llama eventos. El par \((\Omega, \mathcal{F})\) es un espacio medible.

Definición (axiomas de Kolmogorov): Sea \(\mathbb{P}: \mathcal{F} \to \mathbb{R}\) una función que satisface

  • K1: \(\mathbb{P}(A) \ge 0\) para todo \(A \in \mathcal{F}\).
  • K2: \(\mathbb{P}(\Omega) = 1\).
  • K3: Si \(A_1, A_2, \dots \in \mathcal{F}\) son ajenos (\(A_i \cap A_j = \emptyset\) para \(i \ne j\)), entonces \(\mathbb{P}\left(\bigcup_{i=1}^{\infty} A_i\right) = \sum_{i=1}^{\infty} \mathbb{P}(A_i)\).

Entonces \(\mathbb{P}\) se dice una medida de probabilidad, y la terna \((\Omega, \mathcal{F}, \mathbb{P})\) es un espacio de probabilidad (EP).

Corolario: consecuencias inmediatas de los axiomas Sea \((\Omega, \mathcal{F}, \mathbb{P})\) un espacio de probabilidad. Entonces, para \(A, B \in \mathcal{F}\):
  1. Si \(A \subseteq B\), entonces \(\mathbb{P}(A) \le \mathbb{P}(B)\).
  2. \(0 \le \mathbb{P}(A) \le 1\).
  3. \(\mathbb{P}(A^c) = 1 - \mathbb{P}(A)\).
  4. \(\mathbb{P}(\emptyset) = 0\).
  5. \(\mathbb{P}(A \cup B) = \mathbb{P}(A) + \mathbb{P}(B) - \mathbb{P}(A \cap B)\).

Aplicación interactiva

Visualiza un experimento simple: lanzar una moneda

🪙

\(\Omega = \{\text{Águila}, \text{Sol}\}\), \(\mathcal{F} = \{\emptyset, \{\text{A}\}, \{\text{S}\}, \Omega\}\), \(\mathbb{P}(\{\text{A}\}) = \mathbb{P}(\{\text{S}\}) = 0.5\) (moneda justa).

Ejercicio

Usando el corolario anterior, demuestre que \(\mathbb{P}(A^c) = 1 - \mathbb{P}(A)\). Como \(A\) y \(A^c\) son ajenos y \(A \cup A^c = \Omega\), por K3: \(\mathbb{P}(A) + \mathbb{P}(A^c) = \mathbb{P}(\Omega)\). Por K2, \(\mathbb{P}(\Omega)=1\), así que \(\mathbb{P}(A^c) = 1 - \mathbb{P}(A)\).
Vectores Aleatorios

Vectores Aleatorios Discretos

Considere \((\Omega,\mathcal{F},\mathbb{P})\) un espacio de probabilidad y \((X,Y): \Omega \to \mathbb{R} \times \mathbb{R}\) una función bivariada. Si para todo \((x,y) \in \mathbb{R}\times\mathbb{R}\) se tiene \(\{\omega \in \Omega : (X,Y)(\omega)=(x,y)\} \in \mathcal{F}\), entonces \((X,Y)\) se dice un vector aleatorio (v.a.) definido sobre \((\Omega,\mathcal{F},\mathbb{P})\).

Definición: Sea \((X,Y)\) un v.a. y considere \(f_{XY}: \mathbb{R}\times\mathbb{R} \to [0,1]\) tal que

\[ f_{XY}(x,y) = \mathbb{P}\big(\{\omega \in \Omega: (X,Y)(\omega)=(x,y)\}\big) = \mathbb{P}(X=x,Y=y). \]

Si \(\{(x,y): f_{XY}(x,y)>0\}\) es finito o infinito numerable, \((X,Y)\) se dice un vector aleatorio discreto y \(f_{XY}\) su función masa de probabilidad conjunta (f.m.p.).

El conjunto \(S_{XY}=\{(x,y)\in\mathbb{R}^2 : f_{XY}(x,y)>0\}\) se llama soporte de \((X,Y)\).

Proposición: toda f.m.p. conjunta es no negativa y suma 1 Sea \((X,Y)\) v.a. discreto con f.m.p. conjunta \(f_{XY}\) y soporte \(S_{XY}\). Entonces
  1. \(f_{XY}(x,y) \ge 0\) para todo \(x,y\).
  2. \(\sum_{(x_i,y_j)\in S_{XY}} f_{XY}(x_i,y_j) = 1\).
Demostración: (a) se sigue de los axiomas de probabilidad. Para (b), sea \(A_{ij}=\{\omega: (X,Y)(\omega)=(x_i,y_j)\}\); como \(\{A_{ij}\}\) particiona \(\Omega\), por K2 y K3, \(1=\mathbb{P}(\Omega)=\sum_{i,j}\mathbb{P}(A_{ij}) = \sum_{(x_i,y_j)\in S_{XY}} f_{XY}(x_i,y_j)\).

Proposición (marginales): Sea \((X,Y)\) v.a. discreto con f.m.p. conjunta \(f_{XY}\). Entonces las f.m.p. marginales de \(X\) y \(Y\) son

\[ f_X(x) = \sum_{y_j} f_{XY}(x,y_j), \qquad f_Y(y) = \sum_{x_i} f_{XY}(x_i,y). \]

De la conjunta siempre se obtienen las marginales — pero no al revés: distintas conjuntas pueden compartir las mismas marginales (compare, abajo, los dados honestos y los dados cargados: ambos tienen \(f_X=f_Y=1/6\), pero conjuntas distintas).

Aplicación interactiva

Lanza dos dados (experiencia interactiva)

⚀
⚀

Manipula la dependencia (dados cargados)

1

Ejercicio

(Barrios & Chambón, Cuaderno de Ejercicios CP2, ej. 1) Una urna tiene 2 bolas: una marcada con "0" y otra con "1". Se sacan dos bolas con reemplazo. Sea \(X\) el valor máximo entre las dos extracciones y \(Y\) el valor mínimo. Obtenga la f.m.p. conjunta de \((X,Y)\) y sus marginales. Las dos extracciones son independientes y uniformes en \(\{0,1\}\), cada uno de los 4 pares \((0,0),(0,1),(1,0),(1,1)\) tiene probabilidad \(1/4\). Como \(X=\max\), \(Y=\min\): \[ f_{XY}(0,0)=\tfrac14,\quad f_{XY}(1,0)=\tfrac24,\quad f_{XY}(1,1)=\tfrac14,\quad f_{XY}(0,1)=0. \] Sumando por filas/columnas: \(f_X(0)=\tfrac14\), \(f_X(1)=\tfrac34\); \(f_Y(0)=\tfrac34\), \(f_Y(1)=\tfrac14\).
Vectores Aleatorios

Función de Probabilidad Acumulada Conjunta

La función de probabilidad acumulada conjunta (f.p.a.), o función de distribución, generaliza a dos dimensiones la idea de "acumular probabilidad hacia abajo y a la izquierda" desde un punto \((x,y)\).

Definición: Sea \((X,Y)\) v.a. bivariado en \((\Omega,\mathcal{F},\mathbb{P})\). Se define la f.p.a. conjunta \(F_{XY}\) por

\[ F_{XY}(x,y) = \mathbb{P}(X\le x, Y\le y), \qquad \text{para todo } x,y\in\mathbb{R}. \]
Propiedades de \(F_{XY}\)
  1. \(F_{XY}\) es no decreciente "en dirección noreste": si \(x_1<x_2\) y \(y_1<y_2\), entonces \(F_{XY}(x_1,y_1)\le F_{XY}(x_2,y_2)\).
  2. \(F_{XY}(-\infty,y)=0\), \(F_{XY}(x,-\infty)=0\), \(F_{XY}(\infty,\infty)=1\).
  3. \(F_X(x)=\lim_{y\to\infty}F_{XY}(x,y)\), y análogamente para \(F_Y\).
  4. \(F_{XY}\) es continua "en dirección suroeste": \(\lim_{\delta,\epsilon\to0^+}F_{XY}(x+\delta,y+\epsilon)=F_{XY}(x,y)\).
  5. Para \(a<b\) y \(c<d\): \(\mathbb{P}(a<X\le b,\, c<Y\le d) = F_{XY}(b,d)-F_{XY}(b,c)-F_{XY}(a,d)+F_{XY}(a,c)\).
Nota: la propiedad 5 no es automática — una función puede cumplir 1-4 y aun así no ser una f.p.a. legítima si viola 5 (el simulador de abajo construye justamente ese contraejemplo).

Ejemplo resuelto (Barrios, Apuntes CP2, §1.3): sea \(F_{XY}(x,y)=(1-e^{-\alpha x})(1-e^{-\beta y})\) para \(x,y\ge0\), con \(\alpha=1/2\), \(\beta=1/3\). Para \(A=\{X\le1,Y\le2\}\), \(B=\{X\ge2,Y>1\}\), \(C=\{2<X<3, 1<Y<2\}\):

\[ \mathbb{P}(A)=F_{XY}(1,2)=(1-e^{-1/2})(1-e^{-2/3})\approx 0.1915, \] \[ \mathbb{P}(B)=1-\big[F_X(2)+F_Y(1)-F_{XY}(2,1)\big]\approx 0.2636,\qquad \mathbb{P}(C)\approx 0.0294. \]

Aplicación interactiva

Visualiza \(F_{XY}\) para dados

x = 3 y = 3

¿Toda función que cumple las propiedades 1-4 es una f.p.a. válida?

Ejercicio

Para la \(F\) inválida del simulador (\(F(x,y)=1\) si \(x+y\ge0\), \(0\) en otro caso), verifique con la propiedad 5 que efectivamente falla. Tome \(a=-1,b=3,c=-1,d=3\). Entonces \(F(3,3)-F(3,-1)-F(-1,3)+F(-1,-1) = 1-1-1+0=-1\), que no puede ser una probabilidad (debe ser \(\ge0\)). Por lo tanto \(F\) no es una f.p.a. legítima, aunque cumpla las propiedades 1-4.
Vectores Aleatorios

Vectores Aleatorios Continuos

Un vector aleatorio continuo puede tomar cualquier valor en una región del plano. Su comportamiento se describe mediante una función de densidad conjunta.

Definición: Sea \((X,Y)\) v.a. tal que para todo \(A\in\mathcal{B}(\mathbb{R}^2)\) (conjuntos borelianos),

\[ \mathbb{P}\big((X,Y)\in A\big) = \mathbb{P}_{XY}(A) = \iint_A h(x,y)\,dx\,dy \]

para alguna función \(h\ge0\). Entonces \((X,Y)\) se dice (absolutamente) continuo, con \(h\) como función de densidad de probabilidad conjunta (f.d.p.).

Propiedades: f.d.p. propia y relación con la f.p.a. Sea \((X,Y)\) v.a. continuo con f.d.p. conjunta \(f\) y f.p.a. conjunta \(F\). Entonces
  1. \(f(x,y)\ge0\) para todo \(x,y\), y \(\iint_{\mathbb{R}^2}f(x,y)\,dx\,dy=1\) (f.d.p. propia o legítima).
  2. \(F(x,y)=\int_{-\infty}^x\int_{-\infty}^y f(u,v)\,dv\,du\).
  3. Si \(F\) es diferenciable, \(f(x,y)=\dfrac{\partial^2 F(x,y)}{\partial x\,\partial y}\).
  4. Marginales: \(f_X(x)=\int_{-\infty}^{\infty}f(x,y)\,dy\), \(\ f_Y(y)=\int_{-\infty}^{\infty}f(x,y)\,dx\) (se obtienen del Teorema Fundamental del Cálculo aplicado a \(F_X(x)=F(x,\infty)\), invirtiendo el orden de integración por el Teorema de Fubini).

Ejemplo 1 resuelto (uniforme en el cuadrado \([0,1]\times[0,1]\)): \(f(x,y)=\mathbb{1}_C(x,y)\). Se obtiene \(F(x,y)=xy\) en \(C\), y las marginales \(f_X(x)=1\), \(f_Y(y)=1\) en \([0,1]\) — es decir, \(X,Y\sim\text{Unif}(0,1)\).

Ejemplo 2 resuelto (soporte triangular): \(f(x,y)=2e^{-(x+y)}\mathbb{1}_{\{0\le x\le y<\infty\}}(x,y)\). Integrando, \(f_X(x)=2e^{-2x}\) (exponencial de media \(1/2\)) y \(f_Y(y)=2e^{-y}(1-e^{-y})\). Además \(\mathbb{P}(X+Y\le1)=1-2e^{-1}\approx0.2642\).

Aplicación interactiva

Ejemplo 1: distribución uniforme en el cuadrado [0,1]×[0,1]

0.50 0.50

Ejemplo 2: densidad con soporte triangular

\(f(x,y) = 2e^{-(x+y)}\) para \(0 \le x \le y < \infty\).

1.00

Ejercicio

Para el Ejemplo 1 (uniforme en \([0,1]^2\)), verifique que \(F(x,y)=xy\) es efectivamente la f.p.a. conjunta. Para \((x,y)\in[0,1]^2\): \(F(x,y)=\int_0^x\int_0^y \mathbb{1}_C(u,v)\,dv\,du = \int_0^x\int_0^y 1\,dv\,du = xy\). Fuera del cuadrado se verifica por casos (si \(x\ge1,\ y\in[0,1]\): \(F(x,y)=y\); si ambos \(\ge1\): \(F(x,y)=1\); etc.), consistente con que \(X,Y\sim\text{Unif}(0,1)\) independientes.
Vectores Aleatorios

Independencia de Variables Aleatorias

Dos variables \(X\) y \(Y\) son independientes si conocer el valor de una no aporta información sobre la otra.

Definición: \(X_1,\dots,X_n\) se dicen variables aleatorias independientes si para cualesquiera conjuntos borelianos \(B_1,\dots,B_n\in\mathcal{B}(\mathbb{R})\),

\[ \mathbb{P}(X_1\in B_1,\dots,X_n\in B_n) = \mathbb{P}(X_1\in B_1)\cdots\mathbb{P}(X_n\in B_n). \]
Proposición: caracterización equivalente vía \(F\) y \(f\) Sea \((X,Y)\) con f.p.a. conjunta \(F\) y marginales \(F_X,F_Y\), y f.d.p./f.m.p. conjunta \(f\) y marginales \(f_X,f_Y\). \(X\) y \(Y\) son independientes si y solo si, para todo \(x,y\in\mathbb{R}\), \[ \text{i)}\ F(x,y)=F_X(x)F_Y(y) \qquad\Longleftrightarrow\qquad \text{ii)}\ f(x,y)=f_X(x)f_Y(y). \] Demostración (esbozo): si los eventos \(A_x=\{X\le x\}\) y \(B_y=\{Y\le y\}\) son independientes para todo \(x,y\), entonces \(F(x,y)=\mathbb{P}(A_x\cap B_y)=\mathbb{P}(A_x)\mathbb{P}(B_y)=F_X(x)F_Y(y)\); derivando ambos lados (caso continuo) o sumando (caso discreto) se obtiene la factorización de \(f\), y viceversa.

Lema de factorización: \(X\) y \(Y\) (con densidad/f.m.p. conjunta \(f\)) son independientes si y solo si existen funciones \(g\) y \(h\) tales que \(f(x,y)=g(x)h(y)\) para todo \(x,y\).

Regla práctica: si el soporte \(S_{XY}\) no es un rectángulo (producto cartesiano de dos conjuntos), es imposible que \(X,Y\) sean independientes. Si el soporte sí es un rectángulo, aún hay que verificar la factorización de \(f\).

Aplicación interactiva

Lema de factorización (para variables continuas)

Ejercicio

(Barrios & Chambón, Cuaderno de Ejercicios CP2, sección 2, ej. 3) Un estudiante sale de casa entre las 7:00 y las 7:40, y el trayecto le toma entre 30 y 40 minutos. Sea \(X\) el instante de salida (minutos después de las 7:00, \(X\sim\text{Unif}(0,40)\)) y \(Y\) la duración del trayecto (\(Y\sim\text{Unif}(30,40)\)), independientes. ¿Cuál es la probabilidad de llegar antes de las 8:00? Se busca \(\mathbb{P}(X+Y<60)\) sobre el rectángulo \([0,40]\times[30,40]\) (área 400). Para \(x\in[0,20]\), todo \(y\in[30,40]\) cumple \(x+y<60\) (franja de altura 10). Para \(x\in(20,30]\), solo \(y<60-x\) sirve (altura \(30-x\)); para \(x>30\) no hay \(y\) válida. El área favorable es \[ \int_0^{20}10\,dx + \int_{20}^{30}(30-x)\,dx = 200 + 50 = 250. \] Por lo tanto \(\mathbb{P}(X+Y<60) = 250/400 = 0.625\).