Estimación de parámetros en modelos de regresión lineal

Estimación de
parámetros
en modelos de
regresión lineal

Prueba de
coeficientes
de regresión
individuales
y de grupos

Mínimos cuadrados

Para estimar coeficientes
de regresión de un modelo
de regresión lineal.

Elegir las $\beta$ de
modo que la suma de
cuadrados de los errores
se minimice.

Función de mínimos cuadrados$L = \sum_{i=1}^{n} \epsilon_{i}^{2} $

La función L debe minimizarse
con respecto a $\beta_0 , \beta_1,..., \beta_k$.

Existen $p=k+1$ ecuaciones normales para cada uno de los coeficientes de regresión desconocidos.

La solución de las ecuaciones normales se da a través de $y = x\beta + \epsilon$.

$y$, vector $nx1$ de las observaciones.
$x$, matriz $nxp$ de los niveles de las variables independientes.
$\beta$, vector $px1$ de los coeficientes de regresión.
$\epsilon$, vector $nx1$ de los errores aleatorios.

Ecuaciones
normales

En notación escalar, la diferenicia entre la desviación real $y_i$ y el valor ajustado $\hat{y}$ es el residual. Denotado por $e = y_i - \hat{y}$.

Pruebas de hipótesis
en regresión lineal
múltiple

Requieren que los errores
$\epsilon_i$ sigan una distribución normal e independiente con media cero y varianza $\sigma^2$

Prueba de significación
de regresión

Determina si existe
relación entre variable de
respuesta y los regresores.

$H_0: \beta_1 = \beta_2 = ... = \beta_k = 0$
$H_1: \beta_j \not = 0$

El rechazo de $H_0$ implica que al menos uno de los regresores contribuye de forma significativa al modelo.

Prueba de
coeficientes
de regresión
individuales
y de grupos

Para determinar el valor
de cada uno de los
regresores del modelo.

Estadístico de prueba:
$t_0 = \dfrac{\hat{\beta_j}}{\hat{\sigma^2}C_ij}$

Método de suma de cuadrados extra

Examina la contribución de un variable en particular o un conjunto de ellas.