Pronsticos, Series

de Tiempo y
Regresin
Captulo 4: Regresin Lineal
Mltiple
Temas
Modelo de Regresin Lineal
Estimaciones de Mnimos Cuadrados y
Estimacin Puntual y Prediccin
Error Cuadrtico Medio y Error Estndar
Utilidad del Modelo: R
2
, R
2
Ajustada y la
Prueba F Global
Prueba de la Significancia de Una Variable
Independiente
Intervalos de Confianza Para Valores
Esperados y de Prediccin
Temas Avanzados
Modelo de Regresin Lineal
Se emplean ms de una variable
independiente.
relaciona y con x
1
, x
2
, ..., x
k
modelo:
c | | | | c + + + + + = + =
k k x x x y
x x x y
k

2 2 1 1 0 ,..., , |
2 1
Modelo de Regresin Lineal
Valor medio de y cuando los valores de las
variables independientes son x
1
, x
2
, ..., x
k
:



parmetros:
0
,
1
,
2
, ...,
k
trmino de error: c
k k x x x y
x x x y
k
| | | | + + + + = =
2 2 1 1 0 ,..., , |
2 1
Modelo de Regresin Lineal
Suposiciones del modelo de regresin lineal:
1. En cualquier combinacin dada de valores de x
1
,
x
2
, ..., x
k
, la media de la poblacin de los
valores potenciales de c = 0
2. Suposicin de la varianza constante
3. Suposicin de normalidad
4. Suposicin de la independencia
Modelo de Regresin Lineal
Interpretacin de los parmetros de regresin
0
,
1
,
2
, ...,
k

Los parmetros relacionan la media de la variable dependiente con
las variables independientes en un sentido global.

0
: ordenada al origen

1
: cambio en el consumo medio de combustible a la semana que se
asocia con el incremento de un grado en la temperatura promedio
cuando no cambia el ndice de enfriamiento.

2
: cambio en el consumo medio de combustible a la semana que se
asocia con el incremento de una unidad en el ndice de enfriamiento
cuando no cambia la temperatura horaria promedio.
Modelo de Regresin Lineal
Interpretacin geomtrica del modelo de
regresin
regin experimental: combinaciones de los
valores observados de x
1
, x
2
, ..., x
k

plano de medias

Estimaciones de Mnimos
Cuadrados y Estimacin Puntual y
Prediccin
Estimacin puntual del valor medio y de un
valor individual de la variable dependiente y
cuando los valores de las variables
independientes son x
01
, x
02
, ..., x
0k
.


Se predice c = 0
Esta ecuacin se llama la ecuacin de
prediccin de mnimos cuadrados
k k
x b x b x b b y
0 02 2 01 1 0

+ + + + =
Error Cuadrtico Medio y Error
Estndar
Una estimacin puntual de
2
es el error
cuadrtico medio:



Una estimacin puntual de es el error
estndar:

( ) 1
2
+
=
k n
SSE
s
( ) 1 +
=
k n
SSE
s
Utilidad del Modelo: R
2
, R
2

Ajustada y la Prueba F Global
En el caso del modelo de regresin lineal mltiple,
1. Variacin total = (y
i
-y)
2
2. Variacin explicada = (y
i
-y)
2
3. Variacin inexplicada = (y
i
-y
i
)
2

4. Variacin total = Variacin explicada + Variacin
inexplicada
5. El coeficiente de determinacin mltiple es
R
2
= (variacin explicada)/(variacin total)
6. El R
2
es la proporcin de la variacin total en los n
valores observados de la variable dependiente que
explica el modelo de regresin global
7. Coeficiente de correlacin mltiple: R = R
2

Utilidad del Modelo: R
2
, R
2

Ajustada y la Prueba F Global
R
2
Ajustada



donde
R
2
es el coeficiente de determinacin mltiple
n es la cantidad de observaciones y
k es la cantidad de variables independientes en
el modelo
( )
|
|
.
|

\
|
+

|
.
|

\
|

=
1
1
1
2 2
k n
n
n
k
R R
Utilidad del Modelo: R
2
, R
2

Ajustada y la Prueba F Global
H
0
:
0
=
1
=
2
=... =
k
= 0
H
a
: por lo menos uno de los
0
,
1
,
2
,
...,
k
0
Estadstica F global:


( )
( ) ( ) | | 1 / exp _
/ exp _
) (mod
+
=
k n licada in Variacin
k licada Variacin
elo F
Utilidad del Modelo: R
2
, R
2

Ajustada y la Prueba F Global
Se puede rechazar H
0
y aceptar H
a
en el nivel
de significancia si se mantiene alguna de las
condiciones siguientes:
Estadstica F (modelo) > F
[]
valor p <
donde el punto F
[]
se basa en k grados de
libertad pra el numerador y n-(k+1) para el
denominador.

Prueba de la Significancia de
Una Variable Independiente
Defina la estadstica de una prueba





y asuma que las suposiciones de
regresin se mantienen.
j
b
j
s
b
t =
Prueba de la Significancia de
Una Variable Independiente
Hiptesis
alternativa

Condicin de
punto de
rechazo
Valor p
H
a
:
j
0 2 (rea bajo la curva t a
la derecha de |t|)
H
a
:
j
> 0 rea bajo la curva t a la
derecha de t
H
a
:
j
< 0 rea bajo la curva t a la
izquierda de t
| |
( )) 1 (
2 /
| |
+
>
k n
t t
o
| |
( ) ( ) 1 +
>
k n
t t
o
| |
( ) ( ) 1 +
<
k n
t t
o
Prueba de la Significancia de
Una Variable Independiente
Si se cumplen las suposiciones de la
regresin, un intervalo de confianza de
100(1-)% para el parmetro de
regresin
j
es
| |
( ) ( )
| |
j
b
k n
j
s t b
1
2 /
+

o
Intervalos de Confianza Para
Valores Esperados y de
Prediccin
Para calcular el valor de distancia en un
modelo de regresin mltiple, se
requiere de lgegra de matrices.
(Vase el Apndice B.)
Intervalos de Confianza Para
Valores Esperados y de
Prediccin
Si se cumplen las suposiciones de la
regresin, un intervalo de confianza de
100(1-)% para el valor medio de y
cuando los valores de las variables
independientes son x
01
, x
02
, ..., x
0k
es
| |
( ) ( )
. .

1
2 /
d v s t y
k n +

o
Intervalos de Confianza Para
Valores Esperados y de
Prediccin
Si se cumplen las suposiciones de la
regresin, un intervalo de prediccin
100(1-)% para un valor individual de y
cuando los valores de las variables
independientes son x
01
, x
02
, ..., x
0k
es
| |
( ) ( )
. . 1

1
2 /
d v s t y
k n
+
+
o
Temas Avanzados
Modelo de Regresin Cuadrtica
Interaccin
Uso de Variables Ficticias para Modelar
Variables Independientes Cualitativas
Prueba F Parcial: Prueba de la
Significancia de una Parte de un Modelo
de Regresin
Modelo de Regresin
Cuadrtica
El modelo de regresin cuadrtica que
relaciona y con x es
c | | | + + + =
2
2 1 0
x x y
Modelo de Regresin
Cuadrtica

y|x
y|x

y|x

y|x

y|x

y|x
x x x
x x x
Interaccin
Se introduce un trmino de interaccin
cuando se cree que una variable (x
i
)
influye en la relacin entre otra variable
(x
j
) independiente y la variable
dependiente, y.
c | | | | + + + + =
2 1 3 2 2 1 1 0
x x x x y
Uso de Variables Ficticias para
Modelar Variables Independientes
Cualitativas
Cuando se quiere incluir una variabla
cualitativa, se pueden utilizar variables
ficticias (variables indicadoras,
dummies).
Toman el valor de 1 o 0.
En efecto, esta variable influye en el
intercepto.
Uso de Variables Ficticias para
Modelar Variables Independientes
Cualitativas
Ejemplo para comparar tres
ubicaciones:

c | | | | + + + + =
D M
D D x y
3 2 1 1 0
D M
D D x y 864 . 6 374 . 28 86859 . 0 978 . 14

+ + + =