Análisis Multivariado de Datos

Considere una muestra aleatoria de \(n\) vectores aleatorios \[ \boldsymbol{x}_{i}=\left(x_{i1},x_{i2},...,x_{ip}\right)^{\top},\;i=1,...,n, \] que componen una matriz o base de datos de la forma \[\boldsymbol{X}=\left[\begin{array}{c} \boldsymbol{x}_{1}^{\top}\\ \boldsymbol{x}_{2}^{\top}\\ \vdots\\ \boldsymbol{x}_{n}^{\top} \end{array}\right]=\left[\begin{array}{cccc} x_{11} & x_{12} & \cdots & x_{1p}\\ x_{21} & x_{22} & \cdots & x_{2p}\\ \vdots & \vdots & & \vdots\\ x_{i1} & x_{i2} & \cdots & x_{ip}\\ \vdots & \vdots & & \vdots\\ x_{n1} & x_{n2} & \cdots & x_{np} \end{array}\right] \]

Vector de promedios: \[ \bar{\boldsymbol{x}}=\left(\bar{x}_{1},\bar{x}_{2},...,\bar{x}_{p}\right)^{\top} \]

Vector de medianas muestrales univariadas: \[ \tilde{\boldsymbol{x}}=\left(\tilde{x}_{1},\tilde{x}_{2},...,\tilde{x}_{p}\right)^{\top} \]

Mediana muestral multivariada (L1-median o mediana de Tukey): \[ \tilde{\boldsymbol{x}}_{m}=\underset{\boldsymbol{a}}{\text{argmin}}\left\{ \sum_{i=1}^{n}\left\Vert \boldsymbol{x}_{i}-\boldsymbol{a}\right\Vert _{2}\right\} ,\quad\boldsymbol{a}\in\mathbb{R}^{p} \] con \(\left\Vert \boldsymbol{x}_{i}-\boldsymbol{a}\right\Vert _{2}^{2}=\sum_{j=1}^{p}\left(x_{ij}-a_{j}\right)^{2}\)

• Use el vector de promedios para resumir la localización central conjunta de variables cuantitativas cuando no hay valores atípicos influyentes.

• Use el vector de medianas muestrales univariadas para resumir la localización central componente a componente cuando hay asimetría o valores atípicos influyentes.

• Use la mediana muestral multivariada para resumir la localización central conjunta de datos multivariados cuando se requiere una medida robusta del centro global frente a valores atípicos o asimetría.

Matriz de covarianzas: \[ S=\left[\begin{array}{cccc} s_{1}^{2} & s_{12} & \cdots & s_{1p}\\ s_{21} & s_{2}^{2} & \cdots & s_{2p}\\ \vdots & \vdots & \ddots & \vdots\\ s_{p1} & s_{p2} & \cdots & s_{p}^{2} \end{array}\right], \] donde \[ s_{jk} =\frac{\sum_{i=1}^{n}x_{ij}x_{ik}-n\bar{x}_{j}\bar{x}_{k}}{n-1}, ~ ~j,k=1,2,...,p, \] es la covarianza entre las variables \(j\) y \(k\). En particular, \(s_{jj}=s^2_j\) es la varianza de la variable \(j\)-ésima y \(s_j = \sqrt{s_{jj}}\) es la desviación estándar.

Matriz de correlaciones (de Pearson): \[ R=\left[\begin{array}{cccc} 1 & r_{12} & \cdots & r_{1p}\\ r_{21} & 1 & \cdots & r_{2p}\\ \vdots & \vdots & \ddots & \vdots\\ r_{p1} & r_{p2} & \cdots & 1 \end{array}\right], \] donde \[ r_{jk} =\frac{s_{jk}}{s_{j}s_{k}},~~ j,k=1,2,...,p, \] con \(-1\le r_{jk}\le 1\), \(\forall j,k\), es la correlación entre las variables \(j\) y \(k\).

Correlaciones parciales: \[ r_{jk\mid S} =\frac{\sum_{i=1}^n{\hat\epsilon_{ji}\hat\epsilon_{ki}}}{\sqrt{\sum_{i=1}^n{\hat\epsilon_{ji}^2}\sum_{i=1}^n{\hat\epsilon_{ki}^2}}},\quad j\neq k, \text{y } S=\{1,2,...,p\}\setminus\{j,k\}, \] donde \(\hat\epsilon_{ji}=x_{ji}-\hat{x}_{ji}\), \(\hat\epsilon_{ki}=x_{ki}-\hat{x}_{ki}\) y \[ \begin{aligned} \hat{x}_{ji} &= \hat\alpha_j + \sum_{s\in S}{\hat\beta_sx_{si}}\\ \hat{x}_{ki} &= \hat\alpha_k + \sum_{s\in S}{\hat\gamma_sx_{si}} \end{aligned} \]

Coeficiente de correlación de rangos: \[ r_{jk} = \frac{\sum_{i=1}^n\sum_{l=1}^n a_{j,il}b_{k,il}}{\sqrt{\sum_{i=1}^n\sum_{l=1}^n a_{j,il}^2 \sum_{i=1}^n\sum_{l=1}^n b_{k,il}^2}}, \ \ -1\le r_{jk} \le 1, \]
donde \(a_{j,il}\) y \(b_{k,il}\) son score para las variables \(j\) y \(k\), respectivamente, tales que \(a_{j,il}=-a_{j,li}\), \(b_{k,il}=-b_{k,li}\) y \(a_{j,ii} = b_{k,ii} = 0\).

Coeficiente de correlación de Spearman :

Se definen \(a_{j,il}\) y \(b_{k,il}\) como \[ \begin{aligned} a_{j,il} &= u_{j,l} - u_{j,i} \\ b_{k,il} &= v_{k,l} - v_{k,i} \end{aligned} \] donde \(u_{j,i}\) y \(v_{k,i}\), \((i=1,2,...,n)\), corresponden a los rangos de los valores observados de las variables \(j\) y \(k\), respectivamente.

Coeficiente de correlación de Kendall :

Se calculan \(a_{j,il}\) y \(b_{k,il}\) como \[ \begin{aligned} a_{j,il} &= sgn(u_{j,l} - u_{j,i}) \\ b_{k,il} &= sgn(v_{k,l} - v_{k,i}) \end{aligned} \] donde \(u_{j,i}\) y \(v_{k,i}\), \((i=1,2,...,n)\), corresponden a los rangos de los valores observados de las variables \(j\) y \(k\), respectivamente.

Covarianza de distancia: sean \(\boldsymbol{x}_i\), y \(\boldsymbol{y}_i\), \(i=1,2,...,n\), \(n\) vectores de valores observados de las variables \(X\in \mathbb{R}^p\) y \(Y\in \mathbb{R}^q\), \[ cov_d(\boldsymbol{x},\boldsymbol{y})=\frac{1}{n}\sqrt{\sum_{i=1}^n\sum_{k=1}^n A_{ik}B_{ik}}, \] donde \[ \begin{aligned} a_{ik}=\mid\mid \boldsymbol{x}_i-\boldsymbol{x}_k \mid\mid ~ ; \quad b_{ik}=\mid\mid \boldsymbol{y}_i-\boldsymbol{y}_k \mid\mid \end{aligned} \] y \[ \begin{aligned} A_{ik}=a_{jk}-\bar{a}_{i\cdot}-\bar{a}_{\cdot k} + \bar{a}_{\cdot\cdot} \\ B_{ik}=b_{jk}-\bar{b}_{i\cdot}-\bar{b}_{\cdot k} + \bar{b}_{\cdot\cdot} \end{aligned} \]

Correlación de distancia: \[ cor_d(\boldsymbol{x},\boldsymbol{y}) = \frac{cov_d(\boldsymbol{x},\boldsymbol{y})}{\sqrt{var_d(\boldsymbol{x})var_d(\boldsymbol{y})}}, \] con \(var_d(\boldsymbol{x})=cov_d(\boldsymbol{x},\boldsymbol{x})\)

• Use la matriz de covarianzas para resumir la variabilidad y la asociación lineal conjunta entre variables cuando interesa conservar sus escalas originales.

• Use la matriz de correlaciones para resumir la asociación lineal conjunta entre variables cuando sus escalas difieren o interesa compararlas en forma estandarizada.

• Use las correlaciones parciales para medir la asociación lineal entre dos variables controlando el efecto de las demás, cuando interesa distinguir relaciones directas de asociaciones inducidas por otras variables.

• Use la varianza generalizada para resumir la dispersión global multivariada cuando interesa cuantificar el volumen de variación conjunta de las variables.

• Use la varianza total para resumir la dispersión global multivariada cuando interesa cuantificar la variabilidad total acumulada de las variables, entendida como la suma de sus varianzas.

• Use el coeficiente de correlación de Spearman para medir la asociación monótona entre dos variables cuando la relación no es necesariamente lineal o los datos contienen asimetría, atípicos o nivel de medición ordinal.

• Use el coeficiente de correlación de Kendall para medir la asociación monótona entre dos variables cuando interesa una medida basada en concordancias y discordancias, especialmente útil con datos ordinales, muestras pequeñas o empates.

• Use la correlación de distancia para medir la intensidad de la dependencia entre dos variables o dos grupos de variables, incluso si la relación no es lineal; vale cero si y solo si son independientes.

Un vector aleatorio \(\boldsymbol{X}\) \(\left(p\times1\right)\) tiene distribución normal multivariada, \(\boldsymbol{X}\sim N_{p}\left(\boldsymbol{\mu},\Sigma\right)\), si su función de densidad de probabilidad (fdp) está dada por \[ f_{\boldsymbol{X}}\left(\boldsymbol{x}\right)=\frac{1}{\left(2\pi\right)^{p/2}\left|\Sigma\right|^{1/2}}\exp\left\{ -\frac{1}{2}\left(\boldsymbol{x}-\boldsymbol{\mu}\right)^{\top}\Sigma^{-1}\left(\boldsymbol{x}-\boldsymbol{\mu}\right)\right\},~~ \boldsymbol{x}\in \mathbb{R}^p, \] donde

• \(E\left(\boldsymbol{X}\right)=\boldsymbol{\mu}\in\mathbb{R}^{p}\), es el vector de medias de \(\boldsymbol{X}\)

• \(Cov\left(\boldsymbol{X}\right)=E\left(\boldsymbol{X}^2\right)-E^2\left(\boldsymbol{X}\right)\) \(=\Sigma\succeq 0\), \(\left(\Sigma=\Sigma^\top\right)\), es la matriz de covarianzas de \(\boldsymbol{X}\).

Asimetría y curtosis: \[ \begin{aligned} b_{1,p} &=\frac{1}{n^{2}}\sum_{i=1}^{n}\sum_{l=1}^{n}\left[\left(\boldsymbol{x}_{i}-\bar{\boldsymbol{x}}\right)^{\top}S^{-1}\left(\boldsymbol{x}_{l}-\bar{\boldsymbol{x}}\right)\right]^{3}\quad\text{(asimetría)}\\ b_{2,p} &=\frac{1}{n}\sum_{i=1}^{n}\left[\left(\boldsymbol{x}_{i}-\bar{\boldsymbol{x}}\right)^{\top}S^{-1}\left(\boldsymbol{x}_{i}-\bar{\boldsymbol{x}}\right)\right]^{2}\quad\qquad\text{(curtosis)} \end{aligned} \] Se espera que en el caso de una distribución normal \(b_{1,p}=0\) (simétrica) y \(b_{2,p}=p\left(p+2\right)\) (mesocúrtica).

Gráfico cuantil-cuantil multivariado: para cada individuo se calcula \[ d_{i}^2=\left(\boldsymbol{X}_{i}-\bar{\boldsymbol{X}}\right)^{\top}S^{-1}\left(\boldsymbol{X}_{i}-\bar{\boldsymbol{X}}\right),\ \ i=1,2,...,n, \] que bajo el supuesto de normalidad multivariada, sigue una distribución \(\chi^2_{p-1}\). Luego, se calculan los estadísticos de orden \(d_{(1)}^2,d_{(2)}^2,...,d_{(n)}^2\).

A continuación, se deben encontrar los valores \(q_i\), \(i=1,2,...,n\), tales que \[ Pr\left(\chi_{p-1}^2\le q_i\right) = {{i-0.5}\over{n}}, \ \ i=1,2,...,n \]

Finalmente, se grafica la nube de puntos conformada por las parejas \(\left(q_i,d_{(i)}^2\right)\), y se agrega la línea \(d_{(i)}^2 = a + bq_i\) que “mejor” se ajusta a la nube de puntos.

Prueba de Mardia: estamos interesados en constrastar las hipótesis \[ \begin{aligned} H_0&:\text{los datos provienen de una distribución normal multivariada}\\ H_a&:\text{los datos no provienen de una distribución normal multivariada} \end{aligned} \] Se calculan las estadísticas \[ \begin{aligned} Z_{1} &=\frac{n\left(p+1\right)\left(n+1\right)\left(n+3\right)}{6\left[n\left(n+1\right)\left(p+1\right)-6\right]}b_{1,p}\\ Z_{2} &=\frac{b_{2,p}-p\left(p+2\right)}{\sqrt{8p\left(p+2\right)/n}} \end{aligned} \] donde, bajo \(H_0\), \(Z_1\sim\chi_{p\left(p+1\right)\left(p+2\right)/6}^{2}\) y \(Z_2 \sim N\left(0,1\right)\), para así, rechazar la hipótesis de normalidad multivariada al nivel de significancia \(\alpha\) en términos de asimetría si \(Z_{1}\ge\chi_{\alpha,p\left(p+1\right)\left(p+2\right)/6}^{2}\) o de curtosis si \(\left|Z_{2}\right|\ge Z_{\alpha/2}\).

Otras pruebas de normalidad multivariada:

• test de Henze-Zirkler

• test de Royston (extensión del test de Shapiro-Wilk)

• test de Doornik-Hansen

• test de Energía

Detección de datos atípicos:

Basado en el cuadrado de la distancia de Mahalanobis muestral para cada individuo, \[ d_{i}^2=\left(\boldsymbol{X}_{i}-\bar{\boldsymbol{X}}\right)^{\top}S^{-1}\left(\boldsymbol{X}_{i}-\bar{\boldsymbol{X}}\right),\ \ i=1,2,...,n, \] la cual, bajo el supuesto de normalidad multivariada, se puede asumir sigue una distribución \(\chi_{p-1}^2\).

Por tanto, se pueden identificar individuos atípicos multivariados en el conjunto de datos al comparar los valores de \(d^2_{i}\) con un cuantil “grande” de la distribución \(\chi^2_{p-1}\), por ejemplo \(\chi^2_{0.025,p}\).

• Gráficos de dispersión

• Diagramas de caja bivariados (bagplot)

• Gráficos de densidades empíricas bivariadas

• Gráficos de contornos

Tabla de contingencia:

\[ \boldsymbol{N}= \left[\begin{array}{cccccc} n_{11} & n_{12} & \cdots & n_{1j} & \cdots & n_{1q}\\ n_{21} & n_{22} & \cdots & n_{2j} & \cdots & n_{2q}\\ \vdots & \vdots & & \vdots & & \vdots\\ n_{i1} & n_{i2} & \cdots & n_{ij} & \cdots & n_{iq}\\ \vdots & \vdots & & \vdots & & \vdots\\ n_{p1} & n_{p2} & \cdots & n_{pj} & \cdots & n_{pq} \end{array}\right]_{\left(p\times q\right)}, \] donde \(n_{ij}\) corresponde el número de individuos en las categorías \(i=1,2,...,p\) y \(j=1,2,...,q\) de las variables categóricas representadas en las filas y columnas de la tabla, respectivamente.

Frecuencias condicionales fila: \[ \boldsymbol{P_f}= \left[\begin{array}{cccccc} p_{11\mid1} & p_{12\mid1} & \cdots & p_{1j\mid1} & \cdots & p_{1q\mid1}\\ p_{21\mid2} & p_{22\mid2} & \cdots & p_{2j\mid2} & \cdots & p_{2q\mid2}\\ \vdots & \vdots & & \vdots & & \vdots\\ p_{i1\mid i} & p_{i2\mid i} & \cdots & p_{ij\mid i} & \cdots & p_{iq\mid i}\\ \vdots & \vdots & & \vdots & & \vdots\\ p_{p1\mid p} & p_{p2\mid p} & \cdots & p_{pj\mid p} & \cdots & p_{pq\mid p} \end{array}\right]_{\left(p\times q\right)}, \] donde \(p_{ij\mid i}=n_{ij}/n_{i\cdot}\), con \(n_{i\cdot} = \sum_{j=1}^q n_{ij}\), es la proporción de individuos en la categoría \(i\)-ésima de la variable fila. Similarmente, se pueden calcular las frecuencias condicionales columna.

Prueba de independencia:

• Se quiere probar la independencia (\(H_{0}\)) entre un par de variables categóricas

• Se calcula la estadística chi-cuadrado, \[ \chi^{2}=\sum_{i=1}^{p}\sum_{j=1}^{q}\frac{\left(n_{ij}-E_{ij}\right)^{2}}{E_{ij}}\overset{\text{ind}}{\sim}\chi_{\left(p-1\right)\left(q-1\right)}^{2}, \] donde \(E_{ij}=n_{i\cdot}n_{\cdot j}/n\), con \(n=\sum_{i=1}^p\sum_{j=1}^q n_{ij}\), es el número esperado de individuos bajo independencia

• Se rechaza \(H_{0}\), al nivel de significancia \(\alpha\) si \(\chi^{2}>\chi_{\alpha,\left(p-1\right)\left(q-1\right)}^{2}\).

Medidas de asociación:

• Coeficiente de Contingencia \((C)\):

\[ C = \sqrt{\frac{k}{k-1}\frac{\chi^2}{n+\chi^2}},\ \ 0\le C \le 1, \] con \(k=\min\{p,q\}\).

• Coeficiente \(V\) de Crámer:

\[ V = \sqrt{\frac{\chi^2}{n(k-1)}},\ \ 0\le V\le 1 \]

• Use el coeficiente de contingencia para resumir la intensidad global de asociación entre dos variables categóricas en una tabla de contingencia, teniendo en cuenta que su valor máximo depende del tamaño de la tabla.

• Use el coeficiente V de Cramér para medir la intensidad de la asociación entre dos variables categóricas en una tabla de contingencia, cuando se requiere una medida estandarizada comparable entre tablas de distinto tamaño.

• Estructura de los datos faltantes en la matriz de datos: cómo se ubican los datos faltantes en la matriz de observaciones y variables, considerando su distribución general, concentración y localización.

• Magnitud de los datos faltantes y pérdida de información: cantidad de datos faltantes a nivel global, por variable y por unidad.

• Patrones de datos faltantes en estructuras multivariadas: configuración conjunta de la ausencia entre variables, identificando combinaciones recurrentes y formas estructuradas de falta.

• Mecanismos de datos faltantes:

  • Faltantes completamente aleatorios (MCAR): la probabilidad de que un dato falte no depende ni del valor faltante ni de las variables observadas.

  • Faltantes aleatorios (MAR): la probabilidad de que un dato falte puede depender de variables observadas, pero no del valor faltante una vez condicionadas esas variables.

  • Faltantes no aleatorios (MNAR): la probabilidad de que un dato falte depende del propio valor faltante, incluso después de considerar las variables observadas.