Modelo Regresión Lineal Generalizado

Grao en ADE - Econometra
TEMA 5
O MODELO DE REGRESIN LINEAL XENERALIZADO
(MRLX)
5.1. Hipteses do modelo.
5.2. Estimacin, inferencia e predicin.
5.3. Heterocedasticidad: estrutura, causas, contrastes,
estimacin e predicin.
5.4. Autocorrelacin: estrutura, causas, contrastes,
estimacin e predicin.
Matilde Arranz
Tema 5 , 1
5.1. Hipteses do modelo.

As hipteses dun MRLX son as mesmas que as dun MRLC excepto porque a
matriz de varianzas-covarianzas das perturbacins non escalar; dicir,
podera incumprirse a hiptese de homocedasticidad e/ou a hiptese de
incorrelacin das perturbacins.
Segundo isto, nun MRLX cmprese:
1.- un modelo uniecuacional e lineal: y
2.- X non estocstica e r(x)
k 1
, ben especificado.
3.- O vector de parmetros, , constante.

4.- As perturbacins son variables aleatorias de esperanza nula:
Matilde Arranz
0
Tema 5 , 2

5.- A matriz V de varianzas-covarianzas das perturbacins da forma:
V ( )
E 2
, sendo
unha matriz non singular definida positiva e
cadrada de orde T.
Neste modelo, os EMCO son lineais, insesgados e consistentes, pero non son
ptimos; ademais, o suposto de V() non escalar ten outras consecuencias
importantes sobre os estatsticos utilizados no MRLC
Consecuencias de V() non escalar sobre a estimacin MCO no MRLX.

1. Sobre as propiedades dos EMCO:
1.- b lineal en y:
Matilde Arranz
(X'X) 1 X' y
(XX)-1X non estocstica
Tema 5 , 3
2.- b insesgado de :
(XX) 1 X
Eb
(XX) 1 XE
3.- b non ptimo
V(b)
E(b Eb)(b Eb) E(b )(b ) E(XX) 1 XX(XX)
(XX) 1 XEX(XX)
Polo tanto,
bi2
2 w ii
2 (XX) 1 X X(XX)
(XX)
se
2 x ii
4.- b segue sendo consistente de : plimb=
Matilde Arranz
Tema 5 , 4

2. Sobre as propiedades de
S 2.
S2 non un estimador insesgado de 2.
ESCE
E M
Etr M
trM 2
ES
ESCE
T k 1
2 trM
2 trM
T k 1
O estimador insesgado de
SCE
trM
Matilde Arranz
EtrM trEM trME
(T
1)
2
2
sera:
ESCE
trM
2 trM
trM
Tema 5 , 5
3. Sobre as varianzas estimadas dos estimadores MCO.

Se se estiman as varianzas dos estimadores a travs da expresin habitual en
MCO, S2
bi
S2xii , estarase a cometer un dobre sesgo:
1. Porque S2 non un estimador insesgado de 2.

2. Porque (XX)
X X(XX)
(XX)
(w ii
x ii )
se
4. Sobre a inferencia (sobre a estimacin por intervalo ou sobre os

contrastes de hipteses para os parmetros): en sentido estrito os estatsticos
definidos non son vlidos, pois non seguen as distribucins tericas (esperanza
e varianza) que lles tiamos asignado.
5. Sobre a predicin:
y
x ' b non ofrece prognsticos ptimos do valor
extramuestral do regresando.
Matilde Arranz
Tema 5 , 6
5.2. Os estimadores mnimo-cuadrtico xeneralizados.
Os ELIO de no MRLX son os estimadores MCX ( b ) e son os que

proporcionan estimacins insesgadas das sas varianzas.
Os estimadores de MCX pdense obter:
1) Directamente a travs da expresin:
~
b
(X'V 1 X) 1 X'V 1 y
(X' 1 X) 1 X' 1 y
(X'( 2 ) 1 X) 1 X'( 2 ) 1 y
1 1
1
1
1
( 2 ) (X' X) X' 2 1 y
Matilde Arranz
~
b
(X' 1 X) 1 X' 1 y
Tema 5 , 7

2) Transformando o MRLX nun MRLC e obtendo os estimadores MCO do
modelo transformado:
b*
(X*'X*) 1 X*'y *
Non son dous mtodos de estimacin diferentes senn das formas

alternativas de obter os estimadores MCX
Xeralmente, para obter os estimadores ELIO dun MRLX, transfrmase o
modelo orixinal (que xeneralizado) nun modelo clsico (cuxa matriz de
varianzas-covarianzas das perturbacins escalar) e estmase este ltimo por
MCO. Os estimadores obtidos son os ELIO e consistentes dos parmetros do
modelo especificado.
Matilde Arranz
Tema 5 , 8

Modelo orixinal (MRLX):
Modelo transformado (MRLC):

Pdese demostrar:
bMT
X *
E' 2I
*
V(*) = 2I
~
b* (X*'X*) 1 X*' y* b
V(bMT )
SCE*
S *2
Y*
V(b*)
S *2 (X*'X*)
~
V(b )
~
y *' y * b*'X*' y * SC E
~
SCE *
SC E
~
S2
T k 1
T k 1
Ademais, baixo a hiptese de normalidade: *
N(0, 2 I) , poden empregarse
as tcnicas de inferencia utilizadas no MRLNC

Matilde Arranz
H0 : i
'i
ti*
bi* 'i
Sbi*
tT
k 1
Tema 5 , 9

Respecto da bondade de axuste, non hai un equivalente preciso de R2 no MX.
Propuxronse diferentes alternativas para o clculo de R2 pero dbense tomar
con coidado cando se usan. En xeral, non estn acoutados entre 0 e 1 e non
poden interpretarse como porcentaxe de variabilidade muestral da endxena
explicada pola regresin.
~
R2
Un estatstico para este fin, de uso comn no MRLX, :

Este non o
R2
do modelo transformado
(R 2 *
SCE *
SCT
~
SC E
1
SCT
) , pero o modelo trans-
formado un mero artificio de clculo, non o modelo de interese, polo cal un bo

ou mal axuste dese modelo pode ser indiferente.
Anda que certo que a SCE no MT e no MX coinciden, a SCT non a mesma,
posto que se transformou a variable explicada. Logo:
Matilde Arranz
Tema 5 , 10
R2*
SCE *
SCT *
(- , 1]
1
~
SC E
SCT
~
R2
non porcentaxe de variabilidade de Y

explicado pola regresin.
s indica mellor axuste canto mis

prximo a 1 sexa o seu valor
SCE
, non
SCT
sempre, como veremos, defnese o valor da SCE da mesma maneira.
No clculo de R2 para o MRLG, a travs da expresin habitual, 1
Anda que no MRLX as perturbacins poden non ter varianza constante para
todo T e non estar incorrelacionadas, no que segue deste tema consideraremos
por separado os dous problemas e, por tanto, analizaremos o caso en que s
existe heterocedasticidad, e o caso en que as perturbacins son
homocedsticas pero autocorrelacionadas.
Matilde Arranz
Tema 5 , 11
5.3. Heterocedasticidad: estrutura, causas, contrastes, estimacin e

predicin.
5.3.1. Estrutura da heterocedasticidad
No MRLC prtese do suposto de que, a priori, non hai razn para supor un valor
errtico nunha observacin dada; dicir, suponse igual dispersin para todas
elas: hiptese de homocedasticidad.
Convn ademais lembrar que baixo o suposto de E = 0, Ey = X
e Vy V
No caso de heterocedasticidad, non todos os elementos diagonais de V sern

iguais entre si:
escalar
Matilde Arranz
E 2t
2t
V ser cadrada de orde T e simtrica pero non
Tema 5 , 12
E
V
'
2
1
2
2
2 ... E
... E
1 T
2 T
...........
E
2
T
2
1
0 ... 0
2
2
... 0
........
IT
2
T
A heterocedasticidad pode estar relacionada coa variabilidade dos regresores

e, en xeral, esta variabilidade maior en modelos atemporales.
Supoamos un modelo simple para explicar o consumo persoal en funcin do
ingreso persoal dun grupo de individuos no mesmo momento do tempo:
yi
1 xi
Matilde Arranz
i 1, ... N
Tema 5 , 13

Intese que a maior ingreso, maior pode ser a variabilidade do consumo.
Y vs. X
dicir, a maior valor de x, maior

variabilidade para y e, por tanto, maior
variabilidade para
A heterocedasticidad menos frecuente en
modelos temporais (especialmente se a mostra
pequena) porque as variables econmicas
X
evolucionan lentamente, e por tanto, a V() non

ter grandes alteracins.
Abonda con que a varianza dunha i sexa diferente das demais para que exista
heterocedasticidad no modelo.
Matilde Arranz
Tema 5 , 14

Tamn poida que todas as perturbacins tean distinta varianza, por exemplo,
se vara con algunha variable. Neste caso:
0 ... 0
22 ... 0
........
2T
12
V
2
1
Esta matriz pdese escribir, multiplicando por un

escalar, como:
2
1
2
0 ... 0
2
2
... 0
........
2
T
0 ... 0
2
2
2
... 0
0 ... 0
k 2 ... 0
.....
kT
.....
2
T
2
ki
Matilde Arranz
k1
2
i
2
Tema 5 , 15

Con frecuencia, existen grupos de observacins con varianzas das perturbacins
que son distintas entre si, pero iguais dentro de cada grupo.
Por exemplo, se existen p grupos de observacins de tamao Ti (i=1, 2, ..., p), a
matriz de varianzas-covarianzas pdese escribir:
2
1 T1
'
0
2
2 T2
...
Ti: Tamao muestral do grupo i
... 0
0: Matrices de ceros
.........
ITi : Matrices identidade de orde Ti*Ti
2
p Tp
2
i
: (i=1, 2, ..., p): Var(i)
5.3.2. Causas de heterocedasticidad:

1. Tal como expuxemos, poida que V(i) vare con algn regresor.
Matilde Arranz
Tema 5 , 16

2. Cando os datos para as observacins individuais axstanse s hipteses do
modelo clsico, pero os datos dispoibles son sumas ou medias deles, existir
heterocedasticidad sempre que a agregacin fgase en submuestras de
diferente tamao
Supoamos que o modelo simple definido para as observacins individuais das
variables x e y axstase s hipteses do modelo clsico: yt
1 xt
Se non dispuxsemos de datos individuais para esas variables, pero si para os

seus totais (consumo ou renda provincial, por exemplo): yi
Ti
t 1
yt
Ti
xi
t 1
xt
entn, poderiamos especificar o modelo como:
yi
Ti
t 1
yt
Matilde Arranz
Ti
t 1
( 0
1 xt
t )
0Ti
Ti
t 1
xt
Ti
t 1
0Ti
1 xi
wi
Tema 5 , 17

Ti
wi
t 1
Ew
2
i
Ewi
t
E
Ti
t 1
Ti
t 1
E( 1
E( 1
... T )
... T )
(E i j
2
1
0
E
2
2
... E
2
Ti
Ti
t 1
Ti 2
0)
A varianza da perturbacin neste modelo proporcional a un dos seus regresores

(Ti), e salvo que o tamao dos grupos fose igual, haber heterocedasticidad.
Se os datos dispoibles fosen as medias de cada grupo, a varianza da
perturbacin sera inversamente proporcional ao tamao do grupo anda que,
neste caso, Ti non sera un regresor:
Ti
yi
t 1
yt
Ti
Ti
1 xi
wi
wi
t 1
Ti
Os tamaos diferentes causan heterocedasticidad.

Matilde Arranz
Tema 5 , 18

3. Erros de especificacin do modelo; en particular, podera causar
heterocedasticidad a omisin de regresores relevantes.
Supoamos un modelo clsico que relaciona s variables y, x1 e x2:
yt
1 1t
x2t
e supoamos que o modelo foi incorrectamente especificado omitndose a

variable x2 que est relacionada coa variable includa a travs da expresin:
x2 t
1 x1 t
Neste caso, o modelo especificado sera, yt
yt
1 x1 t
2(
1 x1 t
vt )
vt
0*
t
1* x1t
*
0
t*
*
1
x1t
t*
Matilde Arranz
posto que
*
t
2 vt
t
Tema 5 , 19

As propiedades da nova perturbacin:
E t*
*2
E t
E(2 vt
E( 2 vt
t )
2Evt
t )2
Ev t
E t
22Evt2
t
(si Ev t
Et
0)
E 2t
Se vt homocedstica, t* tamn o ser, pero se hai heterocedasticidad

na relacin que liga a x1 con x2, tamn a haber neste modelo.
En calquera caso, sempre
*2
t
Et2
Tamn a seleccin inadecuada da forma funcional podera ser causa de

heterocedasticidad.
4. Cando o modelo foi especificado con algn coeficiente aleatorio.
Matilde Arranz
Tema 5 , 20

5.3.3. Contrastes de homocedasticidad.
Posto que as perturbacins aleatorias son non observables, os mtodos para
detectar a heterocedasticidad basanse nos erros da estimacin MCO do
modelo.
1. Mtodo grfico. sinxelo e recomendable, anda que non sempre
conclunte.
1a) Nos modelos simples debe de representarse a recta de regresin xunto cos
pares de valores das variables (xi, yi): se na nube de puntos, estes estn
crecientemente afastados da recta, probablemente aumente a dispersin das
perturbacins.
Por exemplo, consideramos os valores das variables x e y para as 15
observacins seguintes:
Matilde Arranz
Tema 5 , 21

Obs
10
11
12
13
14
15
60
65
53
51
45
40
48
53
65
120
75
60
140
180
40
200
250
300
400
500
600
750
1000
1200
1600
2000
2500
3000
3200
3300
Representamos o diagrama de puntos xunto coa recta de regresin (Scatter

With Regression, en EViews)
Y vs. X
Tal como pode observarse, para niveis baixos
160
de x, a dispersin de y pequena, pero esa
120
dispersin aumenta a medida que aumenta x.
200
80
Un grfico como este indicativo dunha posible
40
heterocedasticidad causada polo regresor do
0
0
1000
2000
X
3000
4000
modelo. A varianza de y directamente

proporcional aos valores de x.
Matilde Arranz
Tema 5 , 22

Con todo, cando na nube de puntos, os valores de y estn cada vez mis
prximos recta, probablemente dimine a dispersin das perturbacins. Por
exemplo, sexan os valores de x e y seguintes:
obs
10
11
12
13
14
15
16
17
50
25
120
240
160
25
180
12
110
44
60
48
52
45
60
28
38
200
250
325
400
550
675
750
1200
1300
1600
1850
2500
2850
3600
4200
5600
6400
Y vs. X
300
Neste caso, para niveis baixos de x, a dispersin
250
de y elevada, pero esa dispersin dimine a
200
medida que aumenta x.
150
Un grfico como este indicativo dunha posible
100
heterocedasticidad causada polo regresor do
50
0
0
2000
4000
X
Matilde Arranz
6000
8000
modelo. A varianza de y inversamente

proporcional aos valores de x.
Tema 5 , 23

1b) Nos modelos mltiples, se se coece a variable x que, supostamente,
relacinase co problema poden representarse os pares (xi ,| ei | ) e/ou (xi, e2)
Para facer isto, primeiramente debe de estimarse por MCO o modelo lineal que
relaciona s variables (xeneralizado, presumiblemente) e rexistrar o valor dos
erros; despois, representar os valores do regresor presumiblemente causante da
heterocedasticidad e o valor absoluto (ou os cadrados) dos erros.
Por exemplo, supoamos os datos que se mostran para as variables y, x1 e x2, e
supoamos que x1 pode ser a causante do problema.
obs
10
11
12
13
14
15
16
17
250
25
120
240
160
25
160
120
110
44
60
48
52
45
70
28
20
X1
6400
5600
4200
3600
2850
2500
1850
1600
1300
1200
750
675
550
400
325
250
200
X2
1.50
1.75
1.40
1.50
1.85
2.00
1.65
1.85
1.45
1.65
1.95
1.85
2.05
1.95
2.00
1.85
2.12
Primeiro obtense os erros da estimacin MCO do modelo lineal. Considranse

os seus valores absolutos (@ABS(e) en EViews) ou os seus cadrados.
Matilde Arranz
Tema 5 , 24

Despois represntase o diagrama de pares (x1t e |et|), (Simple Scatter en
EViews).
E A =|E|
120
Pdese observar que aumenta a
100
dispersin dos erros en valor absoluto a

medida que aumentan os valores de x1.
80
60
Parece confirmarse a sospeita de
40
heterocedasticidad causada polo
20
regresor x1.
0
0
2000
4000
6000
8000
X1
1c) frecuente que, a priori, en presenza dun modelo mltiple, non se coeza
unha posible causa da heterocedasticidad. Neste caso, pode arroxar algunha
luz a representacin grfica da serie de erros, ordenndoos segundo a orde
crecente do regresando.
Matilde Arranz
Tema 5 , 25

2. Contraste estatstico do suposto de homocedasticidad.
A pesar da gran utilidade das representacins grficas, non se debe decidir
sobre o rexeitamento ou non do suposto de homocedasticidad sen realizar o
oportuno contraste estatstico.
Posto que hai mltiples formas de heterocedasticidad, hai mltiples
estatsticos para o contraste. Neste curso, analizaremos un deles, de uso
comn: o contraste de White.
O estatstico de White asinttico e de uso xeral porque non precisa a
especificacin concreta da forma da heterocedasticidad:
H0 : Homocedasticidad
2
i
H1 : Heterocedasticidad
Matilde Arranz
Tema 5 , 26

Fases para realizar o contraste:
1. Estmase por MCO o modelo especificado e obtense o vector de residuos.
2. Estmase, novamente por MCO, un modelo no cal a variable explicada o
cadrado dos residuos anteriores e os regresores son: a ordenada na orixe, as
variables explicativas do modelo orixinal, os seus cadrados e os seus produtos
cruzados dous a dous (regresin auxiliar).
Se, por exemplo, pretendemos contrastar a homocedasticidad do modelo:
yi
1 x1i
2 x2i
i, primeiramente estimmolo por MCO e logo estimamos
por MCO a regresin auxiliar:
ei2
1 x1i
2 x2i
2
x
3 1i
2
x
4 2i
x1i x2i
vi
1, ..., T
Unha vez estimada, obtense o valor de R 2.

Matilde Arranz
Tema 5 , 27

3. Calclase o valor do estatstico de proba e comprase co correspondente
valor crtico
No test de White ese estatstico :
T R2
as
2
p 1
p: nmero de regresores da regresin auxiliar

Se as perturbacins fosen homocedsticas, as variables da regresin auxiliar
non deberan de ter poder explicativo sobre os erros, por tanto R2 debera de
tomar un valor pequeno e o estatstico de contraste tamn. Por contra, se o
valor muestral do estatstico alto, debe de rexeitarse o suposto de
homocedasticidad.
Matilde Arranz
Tema 5 , 28

EViews incorpora 2 versins deste contraste:
1. Inclense na regresin auxiliar os cadrados e os produtos cruzados dos
regresores (cross terms).
2. Non se incorporan os produtos cruzados (no cross terms).
En ambos os casos, o estatstico de contraste TR2
5.3.4. Estimacin dun modelo heterocedstico.
Se nun modelo, que cumpre as demais hipteses do modelo clsico, rexitase a
homocedasticidad, o modelo xa non clsico senn xeneralizado. Os ELIO dos
~
parmetros () deste modelo son os EMCX ( b ) que se obteen a travs de
MCX.
Matilde Arranz
Tema 5 , 29

A estimacin por MCX realzase, xeralmente, transformando o MRLX nun MRLC
e estimando este ltimo modelo por MCO. A transformacin que debe de
realizarse funcin de cal sexa a matriz de varianzas-covarianzas da
perturbacin (autocorrelacin e/ou heterocedasticidad).
No caso que estamos a considerar (as perturbacins non son homocedsticas
pero estn incorrelacionadas) a transformacin depende tan s da forma da
heterocedasticidad.
Supoamos o caso frecuente en que a varianza da perturbacin proporcional a
un regresor, a unha funcin dun regresor, mesmo a unha funcin de varios
regresores:
2
i
k i . Nesta expresin:
2 unha constante que pode tomar calquera valor positivo.

ki, factor ou causa de que vare
Matilde Arranz
i2,
2
pode ser xi , xi ,
1
, xi , incluso xi * xj ....
xi
Tema 5 , 30

12
Neste caso,
E'
0 ...
k1
22 ... 0
.......
2T
0 ... 0
k2 ... 0
....
kT
Dividindo a ecuacin do modelo xeneralizado por ki , transfrmase nun novo

modelo que est baixo os supostos clsicos:
yi
ki
yi*
1
ki
0 x0*i
x1i
1
ki
1 x1*i
x2i
2
ki
2 x2*i
...
... i
i*
1
ki
y*
X*
As caractersticas da nova perturbacin son:
E i*
Matilde Arranz
i
ki
Ei
ki
0
Tema 5 , 31
( i* ) 2
i*
y*
*j
X*
i
ki
i
ki
*
E i2
ki
i2
ki
E i j
j
kj
2 ki
ki
k ik j
(0, 2IT )
Os estimadores MCX obtense estimando por MCO o modelo transformado;

importante observar que, na transformacin do modelo, cambian os valores das
variables pero non os dos parmetros.
Por que dividimos por k i ?.
Matilde Arranz
Tema 5 , 32

2
Ki o factor de ponderacin das variables do modelo ( i
2 ki ), que
outorga menor peso s observacins que presentan maior variabilidade e maior

peso s de menor variabilidade. dicir, o peso asignado a cada observacin
inversamente proporcional sa varianza; a razn diso que se supoen mis
informativos os valores das variables menos dispersos (menos errticos).
No modelo xeneralizado, o erro da estimacin MCX
~
ei
yi
yi
~
x i' b
yi
~
~' e
~ ; unha suma de cadrados de erros ponderada:
pero a S CE non e
~
S CE
~
e'
1~
O erro no MT :
Matilde Arranz
ei*
~
e
i
ki
, e a SCE *
T
i 1
ei*2
~
SC E
Tema 5 , 33

5.3.5. Predicin en presenza de heteroscedasticidad.
No MRLX o predictor clsico (y
X' b ) non ptimo. A predicin ptima no
MRLX obtense a travs da expresin:
Matilde Arranz
~
Xb
'
Tema 5 , 34
5.4. Autocorrelacin: estrutura, causas, contrastes, estimacin e

predicin.
5.4.1. Estrutura da autocorrelacin.
Consideramos agora o caso de perturbacins homocedsticas pero non
incorrelacionadas. Por suposto, se non son incorrelacionadas, tampouco sern
independentes.
A matriz V() ser cadrada de orde T e simtrica pero non escalar:
E
V
2
1
2
2
2
... E
... E
1
2
.......... .
E
Matilde Arranz
2
T
12
2
...
1T
...
2T
.......
IT
Tema 5 , 35

Tendo en conta que a autocorrelacin supn dependencia lineal entre os valores
actuais e pasados da perturbacin (e, por tanto, da variable explicada), fcil
entender que a incorrelacin incmprase, especialmente, en series temporais de
frecuencia alta: datos diarios, semanais, mensuais, trimestrais
A autocorrelacin mis frecuente en modelos temporais porque mis
probable que os factores omitidos propaguen os seus efectos no tempo que no
espazo. Supoamos un modelo de demanda de alimentos en funcin de renda e
prezos para un pas determinado durante 30 anos. Os gustos da xente, en
relacin co consumo dese ben, non sern radicalmente diferentes dun perodo ao
seguinte, pero si poden ser absolutamente distintos, por exemplo, entre
consumidores de diferentes pases.
Matilde Arranz
Tema 5 , 36

Por suposto, pode existir autocorrelacin en modelos atemporales. Se se
especifica un modelo de oferta para explicar a producin de cereal, un ano
determinado, en funcin da superficie cultivada e dos prezos en diferentes
provincias, poida que algn factor omitido sexa causa de autocorrelacin; se o
factor omitido , por exemplo, a auga de choiva anual, en provincias limtrofes
podera existir autocorrelacin debida proximidade xeogrfica.
5.4.2. Causas da autocorrelacin.
1. Na realidade econmica e social, con gran xeneralidade, as situacins actuais
dependen de niveis pasados.
2. A existencia de ciclos e/ou tendencias na evolucin da variable explicada.
Matilde Arranz
Tema 5 , 37

3. Erros de especificacin do modelo; en particular, podera ser causa de
autocorrelacin a omisin de regresores relevantes. Tamn a seleccin dunha
forma funcional incorrecta.
A xustificacin, neste caso de omisin, segue o mesmo desenvolvemento que no
caso da heterocedasticidad. O modelo especificado sera: yt
e, a expresin para a perturbacin:
*
Posto que E t
t )
2Evt
A covarianza entre elas ser:
Cov(
* *
t s
E( 2 vt
E( 2vt
t*
t )( 2 v s
s)
2 vt
E t
*
t
*
s
t s
Logo, se v unha variable autocorrelacionada,

Matilde Arranz
1* x1t
t*
0 (se Ev t
E(
0*
*
t
2
2
E t* )(
Et
*
s
E s* )
Evt vs se E t vs
0)
0 Evt s
* tamn o ser
Tema 5 , 38

4. Os cambios estruturais provocan erros sistemticos de infra/supra
valoracin de y por perodos, e isto motivo de autocorrelacin positiva dos
residuos en cada subperodo.
O tipo de autocorrelacin mis sinxela corresponde ao suposto de que sexa un

proceso autorregresivo de primeira orde [AR(1)] da forma:
t
t 1
ut
(Eut
0, Eut2
Eutus
s)
A condicin de estabilidade deste proceso require | | 1 ; isto significa que se

as variables omitidas teen efectos durante mis dun perodo, estes son cada
vez menores.
Matilde Arranz
Tema 5 , 39

Cando se especifica un modelo de regresin lineal e a sa perturbacin
autorregresiva, necesario, para poder identificar a matriz V(), coecer os
valores das varianzas (Et2) e das covarianzas (Ett+s).
Se a perturbacin un proceso AR(1), tal como definmolo, a sa varianza
constante ( homocedstica) e as sas covarianzas non nulas:
t
3
t
E t
ut
t 3
t
E
Matilde Arranz
( t
ut
ut
s 0
sut
ut 1 )
ut
s ut
2 t
ut
ut
ut
...
||
E ut
ut
1
1
2ut
...
sut
s 0
0
Tema 5 , 40
E 2t
ut
s 0
2
s
E ut
ut
ut
...
(Eut us
2u (1 2
2u
...)
Eut2
2Eut2
4Eut2
...
0)
1
1 2
suma de infinitos termos dunha progresin xeomtrica de razn < 1

2
u
E t t
E 2t
son constantes
E t ( t
2
Matilde Arranz
E(
ut
E ( 2t
1)
sut
2u
kte
2
1
)u t
tut
1)
homocedstica
E 2t
E tut
2
Tema 5 , 41
E t t
E t ( t
E t t
....
E t t
E(
E( t t
0
sut
tut 2 )
s )u t
E t t
( 2 )
E tut
2 2
|s|2
A matriz de V-C
E12
V
ut 2 )
( E2t
2u
1
1 2
E1 2 ... E1 T
E 22 ... E 2 T
.........
E 2T
Matilde Arranz
E t t
|s| 2 )
2 2 ... T 1 2
2 ... T 2 2
.......... ..........
2
Tema 5 , 42
1
2
2 ... T
... T 2
.......... .....
Os elementos de son descoecidos,
posto que descoecido.
Nos modelos con autocorrelacin de orde unha pdese obter unha estimacin
consistente de utilizando os erros da estimacin MCO do MRLX.
Se no modelo cmprese que Ex it
estocstica, os erros
et
yt
i, o que ocorre sempre que xi sexa non
X't b son aproximacins consistentes das
perturbacins e permiten estimar consistentemente , , e V.

O esquema AR(1) pode ser facilmente xeneralizado a calquera outro:
AR(p):
Matilde Arranz
1 t
2 t
3 t
... p t
ut
Tema 5 , 43

Nas aplicacins econmicas ten especial interese, ademais do proceso de
primeira orde, o esquema, frecuente cando se traballa con datos de series
trimestrais, AR(4):
4 t
ut
5.4.3. Contrastes de incorrelacin.

Como no caso da homocedasticidad, son os erros MCO do modelo xeneralizado
os que permiten contrastar a incorrelacin.
1. Mtodo grfico.
Cando non existe autocorrelacin das perturbacins, os erros non deben de
seguir ningunha pauta de comportamento determinado, senn que deben de ser
completamente aleatorios. En caso contrario, os erros non respondern con
total aleatoriedad.
Matilde Arranz
Tema 5 , 44

1a) Podera ocorrer que a representacin grfica dos erros presentase
movementos ondulares.
Corresponde autocorrelacin positiva ( > 0), a mis
4
3
frecuente cando se traballa con variables econmicas.
2
1
Valores dun determinado signo de t-1 iran seguidos
0
-1
-2
-3
1980
1981
1982
1983
1984
1985
1986
1987
de valores de igual signo de t (o mesmo suceder cos

erros).
Resid u als
1b) Grfico en dentes de serra

20
Corresponde autocorrelacin negativa ( < 0);
10
valores de signo positivo de t-1 iran seguidos de
-10
valores de signo negativo de t e viceversa (o mesmo
-20
-30
80
81
82
83
84
85
86
87
88
89
90
suceder cos erros).
Residual
Matilde Arranz
Tema 5 , 45

1c) A autocorrelacin de orde unha pode detectarse tamn representando os
pares (et, et-1) se se observa unha relacin lineal aproximada entre eles.
E
Se (et, et-1) estn prximos a unha recta de

pendente positiva probable que as perturbacins
sigan un esquema AR(1) con parmetro
E(-1)
>0
Se os pares (et, et-1) estn prximos a unha

recta de pendente negativa posible a
autocorrelacin de orde unha negativa ( < 0)
E (-1)
O mtodo grfico sinxelo e, en ocasins, permite intur facilmente o problema

pero non sempre se pode ver claramente a existencia de autocorrelacin
mediante a simple representacin grfica dos erros.
Matilde Arranz
Tema 5 , 46
12
10
8
6
2
0
-1
1975
-2
84
86
88
90
Residual
92
94
Actual
96
98
1980
1985
Residual
1990
Actual
1995
Fitted
Fitted
4.0
3.5
1
0
3.0
.2
2.5
.1
2.0
.0
1.5
-.1
-1
-2
1.2
-3
0.8
0.4
0.0
-0.4
-0.8
-.2
1965
1970
1975
Residual
Matilde Arranz
1980
Actual
1985
1990
Fitted
Residual
6
Actual
10
Fitted
Tema 5 , 47
160
1.0
140
0.8
120
30
100
20
80
10
60
0.6
.10
0.4
.05
0.2
.00
-.05
-10
-20
1996
1998
Residual
2000
2002
Actual
2004
-.10
2006
25
Fitted
50
Residual
75
100
Actual
125
150
175
Fitted
160,000
120,000
30,000
80,000
20,000
40,000
10,000
-40,000
-10,000
-20,000
72
Matilde Arranz
74
76 78 80 82
Residual
84
86
Actual
88
90
92
Fitted
94 96
Tema 5 , 48

2. Contrastes estatsticos do suposto de incorrelacin.
2a) Contraste de Durbin e Watson
o estatstico comunmente utilizado para analizar a posible autocorrelacin de
primeira orde das perturbacins. Adoita aparecer entre os estatsticos bsicos
da regresin nos programas informticos.
H0 :
Incorrelacin
H1 :
Autocorrelacin de primeira orde

T
Estatstico de proba:
dw
t 2
(e t
T
t 1
t 1
ut
AR(1)
et 1 )2
e t2
Os et son os erros da EMCO do modelo especificado e o valor estimado de

obterase na regresin dos erros:
Matilde Arranz
et
e t
ut
Tema 5 , 49

T
O seu valor estimado obtense:
2
T
t
etet
2
e t2
O campo de variacin do estatstico dw o intervalo (0, 4)

T
dw
( et
t 2
T
t 2
T
t 1
et 1 )
T
t 1
e
e
2
t
2
t
1
Matilde Arranz
t 2
et2
t 2
et2 1
et2
T
t 2
T
t 1
2
t 1
2
t
T
t 1
et et
t 2
T
t 1
2
t
t 2
et et
et2
2(1
)
Tema 5 , 50

Se o valor estimado para consistente do coeficiente de autocorrelacin de
primeira orde das perturbacins, o valor obtido para o estatstico de dw ser
consistente de 2(1-); dicir,
se p lim
p lim dw
(-1, 1): a estabilidade do proceso AR(1) require que | |
2(1
Situacins tericas que poden exporse:

Se
Se
Se
forte autocorrelacin de primeira orde positiva
forte autocorrelacin de primeira orde negativa

Incorrelacin das perturbacins;
ut
O valor estimado para pertencer, aproximadamente, ao mesmo intervalo

(-1, 1)
Matilde Arranz
Tema 5 , 51

As situacins reais deberan corresponder aos seguintes supostos:
*
dw
0 Evidencia contraria incorrelacin e

favorable autocorrelacin positiva de
primeira orde.
*
*
dw
2 Non hai evidencia contraria incorrelacin.
dw
Evidencia contraria incorrelacin e

favorable autocorrelacin negativa
de primeira orde.
Matilde Arranz
Tema 5 , 52

Para decidir sobre a posible autocorrelacin hai que comparar o valor obtido
para o estatstico de dw co correspondente punto crtico, xeralmente ao nivel
do 5%
A distribucin do estatstico dw depende do tamao muestral e do nmero de
regresores do modelo (T e k+1), o que impide dispor dun nico valor de
referencia xeral.
Savin e White elaboraron unhas tboas, que son as de uso mis comn, que
mostran os valores crticos dL e dU (inferior e superior do intervalo) que
delimitan as diferentes situacins:
Matilde Arranz
Tema 5 , 53

1.-
dw
dL
2.-
dw
3.-
dU
dw
4.-
dL
dL
dw
dU
Rexitase incorrelacin fronte AR(1) positiva.
Rexitase incorrelacin fronte AR(1) negativa.
4
dU
dw
Non se rexeita a incorrelacin das

perturbacins fronte AR(1).
Intervalos que delimitan zonas de indecisin:
>0
0
dU
dL
o test non conclunte.

=0
?
dL
dU
<0
?
4-dU
4-dL
dL o lmite inferior (low) e dU o superior (up)

Matilde Arranz
Tema 5 , 54

Algns valores do estatstico dw ( =0.05)
K=1
K=2
dL
dU
0.610
1.400
0.700
1.356
K=3
dL
dU
0.467
1.896
dL
dU
10
K=10
dL
dU
0.879
1.320
0.697
1.641
0.525
2.010
1.077
1.361
0.946
1.543
0.814
1.750
0.111
3.438
1.352
1.489
1.284
1.567
1.214
1.650
0.712
2.363
1.654
1.694
1.634
1.715
1.613
1.736
1.462
1.898
15
30
100
Ex. T=10, k+1=3
>0
0
Matilde Arranz
0.697
=0
?
1.641
2.359
<0
3.303
4
Tema 5 , 55

O estatstico dw:
* vlido s para detectar AR das perturbacins de primeira orde.
* vlido cando X non estocstica; en modelos autorregresivos s apropiado
para rexeitar a incorrelacin.
* vlido mesmo con tamaos muestrales reducidos.
* Para utilizar como referencia os valores das tboas de Savin e White o

modelo debe de especificarse con constante; se non ten ordenada na orixe
habera que utilizar outros valores.
Matilde Arranz
Tema 5 , 56

* A amplitude das zonas de indecisin nas que o contraste non conclunte
depende de T e do nmero de regresores. Para un tamao muestral dado, o
intervalo maior canto maior sexa o nmero de explicativas; doutra banda, para
un determinado nmero de explicativas, o intervalo menor canto maior sexa o
tamao muestral (ver tboas, no libro Econometra de D. Gujarati, por exemplo).
2b) Contraste de Breusch e Godfrey.

un contraste asinttico; o seu maior interese estriba en que permite analizar a
posible autocorrelacin de ordes diferentes a unha. Pode, ademais, utilizarse
anda que entre os regresores estea a endxena retardada.
Matilde Arranz
Tema 5 , 57
H0 : Incorrelacin (1 = 2 = = p = 0)
H1 : Autocorrelacin de orde p [AR(p)]
t
1t
2t
3t
...
pt
ut ut ruido branco
Etapas para realizar este contraste:

1. Estimacin MCO do modelo especificado.
2. Estimacin MCO da regresin auxiliar:
et
x't 1 et
... p et
vt
(regresin dos erros MCO en funcin dos regresores do modelo

e do nmero de retardos dos erros considerado na H1: p)
Matilde Arranz
Tema 5 , 58

3. Obtencin do estatstico de proba. No test de Breusch e Godfrey este
estatstico :
2
T R2
as
2
p
nmero de retardos dos erros na ecuacin auxiliar
Coeficiente de determinacin na regresin auxiliar.

Nmero de observacins na estimacin do
modelo no que se contrasta a incorrelacin.
4. Se as perturbacins estivesen incorrelacionadas o valor muestral deste
estatstico debera de ser pequeno (porque R2 o sera), menor que o
correspondente punto crtico para o contraste; noutro caso, rexeitarase a
incorrelacin fronte autocorrelacin de orde p.
Matilde Arranz
Tema 5 , 59

5.4.4. Estimacin dun modelo con autocorrelacin de orde unha.
Xa viramos que a V() cando as perturbacins son autorregresivas de primeira
orde, t
AR (1 ) t
2
t
2 2
...
2
V( )
...
u t , ten a forma,
T 1 2
T 2 2
2
.................
...
T 1
... T 2
..................
Neste modelo, os EMCO de non son ptimos. Os ELIO son os estimadores

MCX que se poden obter:
~
a) directamente b
( X'
X) 1 X'
b) transformando o MRLX nun MRLC e estimando por MCO o modelo

tranformado.
Matilde Arranz
Tema 5 , 60

O mtodo de estimacin MCX mis usual en caso de autocorrelacin de orde
unha o de Cochrane-Orcutt.
Supoamos un MRLX
yt
1 x1 t
...
k xkt
ut
ut
: rb
Para transformar o modelo multiplcanse todos os elementos da ecuacin de y

en t-1 polo coeficiente de autocorrelacin e isto rstase da ecuacin anterior;
dicir,
Expresin do modelo en t-1:
Multiplcase por :
y t
yt
1 x1, t
1 x1, t
... k xk, t
... k xk, t
Esta ltima expresin rstase da ecuacin de yt:
yt
yt
Matilde Arranz
0 (1 ) 1 ( x1t
x1, t 1 ) ... k ( xkt
xk, t 1 )
t*
Tema 5 , 61
y t*
0*
1 x1*t
...
*
k xkt
t*
0*
0 (1 )
Este modelo o transformado. A nova perturbacin ten as caractersticas da

perturbacin dun MRLC posto que
*
t
t 1
ut
0 1 ... k do MRX sern os EMCO
Os estimadores con boas propiedades dos
deste modelo transformado e, anda que certo que na transformacin que

fixemos prdese unha observacin, isto non reviste maior importancia se o
tamao muestral grande.
Na expresin escrita do MT:
yt*
yt
yt
xit*
A sa estimacin MCO,
estimados para
Matilde Arranz
xit
t*
y
xit
b0*
b1 x1*t
t*
*
... bk xkt
2,..., T
1,..., k
permtenos obter os valores
0* 1 ... k
Tema 5 , 62
0*
S~2
b0
0 (1 )
Sb2
*
o
2
T
t
e t2
S~
*
0
b0
etet
~
b0
Sb
S~
(1
) 2
T
0*
1
b1
b0*
1
~
b1
~
b1 ... bk
Sb ... S~
*
1
bk
bk
Sb
*
k
O mtodo de Cochrane-Orcutt aplcase en forma iterativa, repetindo o mtodo

de estimacin descrito para mellorar a estimacin de e dos coeficientes do
modelo. Desenvlvese da seguinte maneira:
1. Estmase por MCO o modelo orixinal e obtense os erros para a estimacin
de :
Matilde Arranz
2
T
t
etet
2
e t2
1
Tema 5 , 63

2. Con este valor de
yt
yt
transfrmase o modelo xeneralizado especificado:
0 (1 ) 1 ( x1t
x1, t 1 ) ... k ( xkt
xk, t 1 )
3. Estmase por MCO este MT pero, no mtodo iterativo, o proceso non se

detn aqu, senn que contina:
4. Obtense os novos erros desta estimacin e, con eles, un novo valor
estimado do coeficiente de autocorrelacin, co que se realizar unha nova
transformacin do modelo, nova estimacin, novos erros
O proceso detense cando entre dous iteraciones consecutivas hai unha
diferenza moi pequena no valor estimado de : |
(h)
(h 1) |
(sendo tan pequeno como se desexe: 0.0001 en EViews 4.0)

Os valores estimados para os coeficientes na ltima estimacin son os EMCX.
Matilde Arranz
Tema 5 , 64
(h) como estimacin definitiva de
Considrase
Os resultados da estimacin de Cochrane-Orcutt que mostra EViews a dos

~
~
estimadores b , tamn a de , b0 dicir: b~ 0 , b~1 ... b~k ,
5.4.5. Predicin en presenza de autocorrelacin.

O MT un modelo clsico e, por tanto, poderase obter unha predicin ptima
a travs del coa expresin:
*
y
x ' b *
*
y
Con todo, tamn se pode obter (as das expresins son equivalentes):
~
x ' b
y
Se
T 1
T
y
Se
T
y
Matilde Arranz
e~
x T'
x T'
~
b
1
~
b
s
~
x ' b
~
e
T
x T'
s ( yT
( y
~
b
1
~
x ' 1 b )
( yT
~
x T' b )
~
x T' b )
~
e
T
Tema 5 , 65

Modelo Regresión Lineal Generalizado

Uploaded by

Document Information

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

Modelo Regresión Lineal Generalizado

Uploaded by

Copyright:

Available Formats

Grao en ADE - Econometra

Grao en ADE - Econometra

5.1. Hipteses do modelo.

3.- O vector de parmetros, , constante.

Grao en ADE - Econometra

unha matriz non singular definida positiva e

Consecuencias de V() non escalar sobre a estimacin MCO no MRLX.

(XX)-1X non estocstica

Grao en ADE - Econometra

3.- b non ptimo

E(b Eb)(b Eb) E(b )(b ) E(XX) 1 XX(XX)

4.- b segue sendo consistente de : plimb=

Grao en ADE - Econometra

S2 non un estimador insesgado de 2.

EtrM trEM trME

Grao en ADE - Econometra

3. Sobre as varianzas estimadas dos estimadores MCO.

S2xii , estarase a cometer un dobre sesgo:

1. Porque S2 non un estimador insesgado de 2.

4. Sobre a inferencia (sobre a estimacin por intervalo ou sobre os

x ' b non ofrece prognsticos ptimos do valor

Grao en ADE - Econometra

5.2. Os estimadores mnimo-cuadrtico xeneralizados.

Os ELIO de no MRLX son os estimadores MCX ( b ) e son os que

Grao en ADE - Econometra

Non son dous mtodos de estimacin diferentes senn das formas

Grao en ADE - Econometra

Modelo transformado (MRLC):

Ademais, baixo a hiptese de normalidade: *

N(0, 2 I) , poden empregarse

as tcnicas de inferencia utilizadas no MRLNC

Grao en ADE - Econometra

Un estatstico para este fin, de uso comn no MRLX, :

) , pero o modelo trans-

formado un mero artificio de clculo, non o modelo de interese, polo cal un bo

Grao en ADE - Econometra

non porcentaxe de variabilidade de Y

s indica mellor axuste canto mis

Grao en ADE - Econometra

5.3. Heterocedasticidad: estrutura, causas, contrastes, estimacin e

No caso de heterocedasticidad, non todos os elementos diagonais de V sern

V ser cadrada de orde T e simtrica pero non

Grao en ADE - Econometra

A heterocedasticidad pode estar relacionada coa variabilidade dos regresores

Grao en ADE - Econometra

dicir, a maior valor de x, maior

evolucionan lentamente, e por tanto, a V() non

Grao en ADE - Econometra

Esta matriz pdese escribir, multiplicando por un

Grao en ADE - Econometra

Ti: Tamao muestral do grupo i

ITi : Matrices identidade de orde Ti*Ti

: (i=1, 2, ..., p): Var(i)

5.3.2. Causas de heterocedasticidad:

Grao en ADE - Econometra

Se non dispuxsemos de datos individuais para esas variables, pero si para os

entn, poderiamos especificar o modelo como:

Grao en ADE - Econometra

A varianza da perturbacin neste modelo proporcional a un dos seus regresores

Os tamaos diferentes causan heterocedasticidad.

Grao en ADE - Econometra

e supoamos que o modelo foi incorrectamente especificado omitndose a

Neste caso, o modelo especificado sera, yt

Grao en ADE - Econometra