Sucesión de variables aleatorias y teorema límite

Modos de Convergencia de Variables Aleatorias

Existen cuatro modos principales de convergencia para sucesiones de variables aleatorias:
  • Convergencia casi segura (c.s.): \(X_n \xrightarrow{c.s.} X\) si \(\mathbb{P}(\lim_{n\to\infty} X_n = X) = 1\)
  • Convergencia en probabilidad (P): \(X_n \xrightarrow{P} X\) si \(\forall \epsilon>0, \lim_{n\to\infty} \mathbb{P}(|X_n-X|>\epsilon)=0\)
  • Convergencia en media cuadrática (m.c.): \(X_n \xrightarrow{m.c.} X\) si \(\lim_{n\to\infty} \mathbb{E}[(X_n-X)^2]=0\)
  • Convergencia en distribución (D): \(X_n \xrightarrow{D} X\) si \(F_{X_n}(x) \to F_X(x)\) en puntos de continuidad

Visualización: Media muestral convergiendo a la media poblacional

Relaciones entre modos de convergencia:

  • Convergencia c.s. \(\Rightarrow\) Convergencia en probabilidad \(\Rightarrow\) Convergencia en distribución
  • Convergencia en m.c. \(\Rightarrow\) Convergencia en probabilidad
  • Los recíprocos no son ciertos en general
¿Puede haber convergencia en distribución sin convergencia en probabilidad? ¡Sí! Por ejemplo, si \(X_n = X\) para todo n, pero \(X_n\) e \(Y\) tienen la misma distribución, entonces \(X_n \xrightarrow{D} Y\) pero no necesariamente converge en probabilidad. La convergencia en distribución es la más débil.

Ejercicio

(Barrios y colaboradores, Cuaderno de Ejercicios CP2, sección 14, ej. 2) Sean \(X_1,X_2,\ldots\) variables aleatorias independientes idénticamente distribuidas con \(\mathbb{E}[X_i]=\mu\), \(\operatorname{var}(X_i)=\sigma^2<\infty\) y f.d.a. \(F\). Para \(n\in\mathbb{N}\) y \(x\in\mathbb{R}\) fijos se define \(F_n(x)=\frac{1}{n}\sum_{i=1}^n\mathbb{1}_{(-\infty,x]}(X_i)\). (a) Encuentre \(\mathbb{E}[\sqrt{n}(F_n(x)-F(x))]\). (b) Determine \(\operatorname{var}[\sqrt{n}(F_n(x)-F(x))]\). (c) Muestre que para todo \(x\in\mathbb{R}\), \(\{F_n(x)\}\) converge en probabilidad a \(F(x)\). Sea \(Y_i=\mathbb{1}_{(-\infty,x]}(X_i)\). Como \(\mathbb{P}(X_i\le x)=F(x)\), \(Y_i\sim\text{Bernoulli}(F(x))\) i.i.d., y \(F_n(x)=\bar{Y}_n\) es su media muestral.

(a) \(\mathbb{E}[F_n(x)]=F(x)\), así que \(\mathbb{E}[\sqrt{n}(F_n(x)-F(x))] = \sqrt{n}\cdot 0 = 0\).

(b) \(\operatorname{var}(Y_i)=F(x)(1-F(x))\), y \(\operatorname{var}(F_n(x))=F(x)(1-F(x))/n\). Entonces: \[ \operatorname{var}[\sqrt{n}(F_n(x)-F(x))] = n\cdot\frac{F(x)(1-F(x))}{n} = F(x)(1-F(x)). \] (c) Por Chebyshev, para cualquier \(\epsilon>0\): \[ \mathbb{P}(|F_n(x)-F(x)|\ge\epsilon) \le \frac{\operatorname{var}(F_n(x))}{\epsilon^2} = \frac{F(x)(1-F(x))}{n\epsilon^2} \xrightarrow{n\to\infty} 0. \] Por lo tanto \(F_n(x)\xrightarrow{P}F(x)\) — esta es la base teórica de la función de distribución empírica, que converge en probabilidad (de hecho, uniformemente, por el teorema de Glivenko-Cantelli) a la verdadera distribución.

Ley de los Grandes Números (LGN)

Ley Débil de los Grandes Números (LDGN): \[ \bar{X}_n = \frac{1}{n}\sum_{i=1}^n X_i \xrightarrow{P} \mu = \mathbb{E}[X_1] \] Ley Fuerte de los Grandes Números (LFGN): \[ \bar{X}_n \xrightarrow{c.s.} \mu \]

Simulación: Convergencia de la media muestral

100
Demostración de la LDGN (con varianza finita) \[ \mathbb{P}(|\bar{X}_n - \mu| \ge \epsilon) \le \frac{\operatorname{var}(\bar{X}_n)}{\epsilon^2} = \frac{\sigma^2/n}{\epsilon^2} \to 0 \text{ cuando } n \to \infty \] Por lo tanto, \(\bar{X}_n \xrightarrow{P} \mu\).

Ejemplo del PDF (encuesta): Para estimar una proporción p con precisión ϵ=0.05 y confianza 90% (δ=0.10): \[ n \ge \frac{1}{4\delta\epsilon^2} = \frac{1}{4 \cdot 0.10 \cdot (0.05)^2} = 1000 \] ¡Se necesitan al menos 1000 encuestas!

¿Por qué la LGN es fundamental en Estadística? La LGN justifica que la media muestral es un estimador consistente de la media poblacional. Es la base de la inferencia estadística: al aumentar el tamaño de muestra, nuestras estimaciones se acercan a los verdaderos valores poblacionales.

Ejercicio

Usando la misma cota de Chebyshev del "Ejemplo del PDF" (\(n\ge\frac{1}{4\delta\epsilon^2}\)), calcule cuántas encuestas se necesitan para estimar una proporción con precisión \(\epsilon=0.02\) y confianza 95% (\(\delta=0.05\)). Sustituyendo directamente: \[ n \ge \frac{1}{4\delta\epsilon^2} = \frac{1}{4(0.05)(0.02)^2} = \frac{1}{0.00008} = 12{,}500. \] Se necesitarían 12,500 encuestas — mucho más que las 1000 del ejemplo, porque se pidió el doble de precisión (\(\epsilon\) más pequeña, que entra al cuadrado en el denominador) y más confianza (\(\delta\) más pequeña). Esta cota de Chebyshev es conservadora; en el módulo de Aplicaciones del TCL se verá una fórmula más ajustada (basada en la aproximación normal) que típicamente pide muestras bastante más pequeñas para la misma precisión y confianza.

Teorema Central del Límite (TCL)

Teorema Central del Límite (Lindberg-Lévy): \[ Z_n = \frac{\bar{X}_n - \mu}{\sigma/\sqrt{n}} = \frac{S_n - n\mu}{\sigma\sqrt{n}} \xrightarrow{D} Z \sim N(0,1) \] Es decir, para n grande, \(\bar{X}_n \approx N(\mu, \sigma^2/n)\).

Visualización del TCL para diferentes distribuciones

30
Esquema de demostración (usando FGM) Para variables estandarizadas con media 0 y varianza 1: \[ m_{\sqrt{n}\bar{X}_n}(t) = \left[m_X\left(\frac{t}{\sqrt{n}}\right)\right]^n \] Tomando logaritmo y usando expansión de Taylor: \[ \log m_X(s) = \frac{s^2}{2} + o(s^2) \] \[ n \log m_X\left(\frac{t}{\sqrt{n}}\right) \to \frac{t^2}{2} \] Por lo tanto, \(m_{\sqrt{n}\bar{X}_n}(t) \to e^{t^2/2}\), que es la FGM de \(N(0,1)\).

Ejemplo del PDF (lámparas): Tiempo de vida exponencial con media 10 días. Probabilidad de que 50 lámparas duren menos de 365 días: \[ \mathbb{P}(S_{50} < 365) \approx \Phi\left(\frac{365 - 50\cdot10}{10\sqrt{50}}\right) = \Phi\left(\frac{-135}{70.71}\right) = \Phi(-1.91) \approx 0.028 \] ¡Solo 2.8% de probabilidad!

¿Qué pasa si aplicamos TCL a una distribución Cauchy? La distribución Cauchy no tiene varianza finita, por lo que el TCL no aplica. De hecho, la media muestral de Cauchy sigue siendo Cauchy (no se concentra). ¡Es el contraejemplo clásico del TCL!

Ejercicio

El tiempo de vida de una batería es exponencial con media 5 horas. Se conectan 40 baterías independientes en serie, de modo que el sistema completo dura la suma \(S_{40}\) de sus tiempos de vida. Aproxime \(\mathbb{P}(S_{40}>220 \text{ horas})\) usando el TCL. Para \(X_i\sim\text{Exponencial}(\text{media}=5)\), \(\mu=5\) y \(\sigma=5\) (para la exponencial, la desviación estándar es igual a la media). Con \(n=40\): \[ \mathbb{E}[S_{40}] = n\mu = 40(5) = 200, \qquad \operatorname{var}(S_{40}) = n\sigma^2 = 40(25) = 1000, \qquad \text{sd}(S_{40})=\sqrt{1000}\approx31.62. \] Usando la aproximación normal: \[ \mathbb{P}(S_{40}>220) \approx 1-\Phi\left(\frac{220-200}{31.62}\right) = 1-\Phi(0.632) \approx 1-0.7365 = 0.2635. \] Hay aproximadamente 26.35% de probabilidad de que el sistema dure más de 220 horas.

Aplicaciones: Encuestas y Márgenes de Error

Para una proporción poblacional \(p\), el estimador \(\hat{p} = \bar{X}_n\) satisface: \[ \hat{p} \approx N\left(p, \frac{p(1-p)}{n}\right) \] El margen de error para un nivel de confianza del 95% es aproximadamente \(1.96\sqrt{\frac{p(1-p)}{n}} \approx \frac{1}{\sqrt{n}}\).

Calculadora de tamaño de muestra para encuestas

0.50 0.030
Fórmula del tamaño de muestra \[ n = \frac{z_{\alpha/2}^2 \cdot p(1-p)}{E^2} \] Cuando \(p\) es desconocido, se usa \(p=0.5\) (máxima varianza): \(n \approx \frac{z_{\alpha/2}^2}{4E^2}\).
Para 95% confianza y E=0.03: \(n \approx \frac{1.96^2}{4 \cdot 0.0009} \approx 1067\).

Ejemplo del PDF (cálculos):

  • n=900, E=0.025, p desconocida → probabilidad ≈ 13.36% de error >2.5%
  • Para error <2.5% con 99% confianza: n ≈ 2654
¿Por qué se usa p=0.5 cuando no se conoce la proporción real? Porque \(p(1-p)\) es máximo en \(p=0.5\). Usar p=0.5 da el tamaño de muestra más grande posible, garantizando que el margen de error no será mayor que el especificado sin importar el verdadero valor de p.

Ejercicio

Calcule el tamaño de muestra necesario para estimar una proporción desconocida (use \(p=0.5\)) con margen de error \(E=0.02\) y 99% de confianza (\(z=2.576\)). Usando la fórmula conservadora \(n\approx z_{\alpha/2}^2/(4E^2)\): \[ n \approx \frac{2.576^2}{4(0.02)^2} = \frac{6.636}{0.0016} \approx 4147.4. \] Como el tamaño de muestra debe ser un entero y necesitamos al menos esa precisión, se redondea hacia arriba: \(n=4148\). Note que esto es considerablemente menor que las 12,500 encuestas obtenidas en el módulo de LGN con la cota de Chebyshev para una precisión similar — la aproximación normal (TCL) es mucho más ajustada que la cota conservadora de Chebyshev.

Teorema de Slutsky y Resultados Relacionados

Teorema de Slutsky: Si \(X_n \xrightarrow{D} X\) y \(Y_n \xrightarrow{P} c\) (constante), entonces:
  • \(X_n + Y_n \xrightarrow{D} X + c\)
  • \(X_n Y_n \xrightarrow{D} cX\)
  • \(X_n / Y_n \xrightarrow{D} X/c\) (si \(c \neq 0\))

Verificación: Teorema de Slutsky con simulación

1.0

Teorema de Mapeo Continuo: Si \(g\) es continua y \(X_n \xrightarrow{D} X\), entonces \(g(X_n) \xrightarrow{D} g(X)\).
Aplicación importante: Si \(Z_n \xrightarrow{D} N(0,1)\), entonces \(Z_n^2 \xrightarrow{D} \chi^2_1\).

¿Qué aplicación tiene Slutsky en la práctica estadística? Slutsky es fundamental para justificar que si \(\hat{\sigma}^2\) es un estimador consistente de \(\sigma^2\), entonces \(\frac{\bar{X}_n - \mu}{\hat{\sigma}/\sqrt{n}} \xrightarrow{D} N(0,1)\). ¡Permite usar la desviación estándar muestral en intervalos de confianza!

Ejercicio

Sea \(\bar{X}_n\) la media muestral de \(n=100\) observaciones i.i.d. Bernoulli(0.3). Use el TCL y el Teorema de Mapeo Continuo para describir la distribución límite de \(W_n = \dfrac{n(\bar{X}_n-0.3)^2}{0.3\times0.7}\). Por el TCL, con \(p=0.3\), \(p(1-p)=0.21\): \[ Z_n = \frac{\bar{X}_n - 0.3}{\sqrt{0.21/n}} = \sqrt{n}\cdot\frac{\bar{X}_n-0.3}{\sqrt{0.21}} \xrightarrow{D} Z\sim N(0,1). \] Reescribiendo \(W_n\) en términos de \(Z_n\): \[ W_n = \frac{n(\bar{X}_n-0.3)^2}{0.21} = \left(\sqrt{n}\cdot\frac{\bar{X}_n-0.3}{\sqrt{0.21}}\right)^2 = Z_n^2. \] Aplicando el Teorema de Mapeo Continuo con la función continua \(g(z)=z^2\) a \(Z_n\xrightarrow{D}Z\sim N(0,1)\): \[ W_n = Z_n^2 \xrightarrow{D} Z^2 \sim \chi^2_1. \] Este resultado — que el cuadrado de un estadístico estandarizado asintóticamente normal converge a una \(\chi^2_1\) — es exactamente la base de las pruebas de bondad de ajuste y de las pruebas de proporciones en estadística inferencial.