You are on page 1of 176

XXVI SBPO - Simposio

Brasileiro de Pesquisa Operacional


Joao
del Rey, 23 - 26 nov 2004
Sao

aos Modelos Dinamicos

Introducao
Bayesianos
Helio Migon, Dani Gamerman & Romy Rodriguez

Instituto de Matematica
Universidade Federal de Rio de Janeiro

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

1 / 176

Conteudo:
Parte I

e Resultados Principais
Definicao
1

Introducao

de Probabilidade e Inferencia

Revisao
Bayesiana

Modelo Linear Dinamico

Modelos de Tendencia

Evolucao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

2 / 176

Conteudo:
Parte II

Topicos
Especiais
6

Analise
Retrospectiva

de Modelos
Superposicao

Modelos com Variaveis


Causais

Modelos com Sazonalidade

10

Monitoracao

11

Intervencao

12

Analise
de Dados

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

3 / 176

Conteudo:
Parte III

Extensoes
13

Modelos Lineares Dinamicos


Generalizados (MLDG)

14

Inferencia
em MLDG: Linear Bayes

15

Inferencia
em MLDG: MCMC

16

Lineares Dinamicos

Modelos Nao
Generalizados (MNLDG)

17

Modelos Dinamicos
Generalizados (MDG)

18

Inferencia
em MDG: MCMC sequencial

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

4 / 176


Principais Referencias

Pole, West & Harrison (1994). Applied Bayesian Forecasting


and Time Series Analysis. New York: Chapman-Hall.
West & Harrison (1997). Bayesian Forecasting and Dynamic
Models. New York: Springer-Varlag.
Software:
BATS ftp.stat.duke.edu/pub/bats/
WinBUGS http://www.mrc-bsu.cam.ac.uk/bugs/
Bts http://lib.stat.cmu.edu/DOS/S/
(SPLUS for Windows functions)

Ox http://www.doornik.com/download.html

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

5 / 176

Parte I
e Resultados Principais
Definicao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

6 / 176


Introducao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

7 / 176


Introducao

ao

de observacoes
Serie
Temporal (ST) e uma sequ encia
longo do tempo.
usuais a ordem das observacoes

Nos modelos de regressao


e irrelevante, na ST a passagem do tempo tem efeito
marcante.
sao
equiespacadas.
Normalmente numa ST as observacoes
sejam, isso pode ser acomodado com mudancas
Caso nao
ausentes. Deve-se, entretanto,
na escala e observacoes
A abordagem
tomar cuidado com as escalas de medicao.
Bayesiana (diferentemente de outras) incorpora isso.
Neste curso, so estudaremos ST univariadas (possivelmente

com variaveis
explicativas ou regressores).

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

8 / 176


Controle e Previsao

do que ja aconteceu
Controle e uma descricao
do que vai acontecer
e uma descricao
Previsao
Os dois podem ser feitos independentemente.
de um modelo.
A abordagem aqui e baseada na construcao
controle ou ambos.
Tendo o modelo, pode-se fazer previsao,

real teremos o ciclo:


Numa situacao
observacao
analise

. . . previsao
...

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

9 / 176


Breve Historico

tiveram um primeiro
Estudos na area
de modelos e previsao
impulso em engenharia de sistemas nos anos 60.
o interesse era voltado para sistema de funcionamento de
La,

maquinas
(por exemplo, satelites)
e havia uma enfase
grande em
controle.
Embora os desenvolvimentos subsequentes
em Estatstica e

Engenharia de Sistemas tomaram caminhos distintos, boa parte


do curso sera voltada para a base comum sobre a qual foram

desenvolvidas as extensoes.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

10 / 176

Modelos

3 formas basicas
englobam boa parte dos modelos usados na

pratica:

Modelos de Tendencia

Modelos de sazonalidade (ou ciclos sistematicos)

Modelos de variaveis
causais (ou regressores)
dessas 3 formas fornecem modelos para series:

Combinacoes
financeiras (vendas, estoque);
capacidade operativa);
industriais (producao,
de leite, mercado de carnes);
agrcolas (producao

de org
aos);

medicas
(monitoracao
sociais (acidentes, nascimentos).

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

11 / 176

Figura: Vendas Mensais de um tipo de bala de Janeiro de 1976 a


Dezembro de 1981 (CANDY.DAT)

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

12 / 176


Figura: Acidentes rodoviarios
graves (1969:1-1984:4)

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

13 / 176


Sistemas Dinamicos

A maioria das analises


estatsticas utilizam modelos

fixa (atraves
de
estaticos:
Modelos com uma descricao

parametros
fixos) ao longo das unidades de observacao.

MLG, modelos ARMA.


Exemplos: analise
de regressao,

Em ST, essa hipotese


muitas vezes e violada: as estruturas
mudam com a passagem do tempo.
` atividades humanas sao
alvos de mudancas:
ST ligados as
Abruptas - devido a grandes mudancas, hecatombes,
novas leis;
Graduais.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

14 / 176

dinamicos:

Neste curso todos os modelos sao


(os parametros)

a descricao
muda com a passagem do
tempo. Eles incluem como caso particular os modelos

estaticos
(onde a mudanca e nula).
e
Normalmente, a passagem do tempo traz observacoes
aumenta o nosso conhecimento.

perda de informacao

Em modelos dinamicos
temos tambem
devido a` passagem do tempo.
passado e mais relevante
Exemplo: o nvel de vendas mes
hoje que o nvel de vendas em setembro.
do modelo dinamico

Construcao
e feita em duas etapas:
1a. qualitativa e 2a. quantitativa de uma forma local.

e valida

Em modelos estaticos,
a mesma quantificacao
globalmente.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

15 / 176

Abordagem Bayesiana

de um modelo e uma arte.


A construcao
de uma realidade; sera tao

Um modelo e uma representacao


adequado quanto a` sua capacidade de alcancar os objetivos
do modelo traz
a que ele se destina. Portanto, a construcao

inerente em si um carater
subjetivo.
sobre um futuro incerto.
e uma afirmacao
Previsao
de
A incerteza aqui sera sempre representada atraves
sera sempre formulada
probabilidade. Portanto, a previsao
em termos de probabilidade condicionada ao nosso estado
mudara.

de conhecimento. Se ele muda, nossa previsao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

16 / 176

de duas fontes:
Nosso conhecimento provem

A serie
historica
ou dados;
Outros conhecimentos (subjetivos)

Exemplos: entrada em vigor de leis, falencia


de competidor.

importantes, podem e devem ser


Ambas as fontes sao
utilizadas.
A abordagem Bayesiana incorpora esses elementos natural e
coerentemente.
significa que o modelo default e posto
Aplicando a` previsao,
para funcionar.
rotineiros intervem,

Se acontecimentos nao
o modelo os
incorpora:
Preparando para mudanca e/ou

Alterando o que for necessario

Exemplo: se o competidor vai falir, precisa usar seu conhecimento sobre a divisao
do mercado para formular a mudanca que ele espera que aconteca.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

17 / 176

de Probabilidade e Inferencia

Revisao
Bayesiana
Principais Resultados

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

18 / 176

Probabilidade
entre 0 e 1 representando a
Probabilidade e um numero

Ex:
crenca numa determinada afirmacao.
Pr(cara no lancamento de uma moeda)=0.5,
Pr(chover hoje)=0.1,

Pr (Ibis ser o campeao)=0.01

Probabilidades Totais (0 ou 1) representam crenca na

veracidade ou falsidade de uma afirmacao.


Probabilidade Condicional e a probabilidade baseada no

conhecimento previo
da veracidade de uma afirmacao.

Ex: Pr(dado lancado dar par| resultado foi 5).


E calculada com: Pr(A|B) = Pr(AB)
Pr(B) .
Sendo: A = {2, 4, 6}, B = {1, 2, 3, 4, 5}, AB = {2, 4},
Da: Pr(AB) = 2/6 e Pr(B) = 5/6.
2/6
2
Logo, Pr(A|B) =
=
5/6
5
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

19 / 176

Teorema de Bayes

temos que Pr(B|A) = Pr(AB)


Tambem
Pr(A)
assim, Pr(AB) = Pr(B|A) P(A). Logo,
Pr(AB)
Pr(B)
Pr(B|A) Pr(A)
=
Pr(B)
Pr(B|A)Pr(A)

Pr(A|B) =

O resultado acima e conhecido como Teorema de Bayes.

Ele fornece a base da abordagem Bayesiana pois nos


receber
ensina como atualizarmos nossa crenca em A apos

novas informacoes,
no caso, B

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

20 / 176

Variaveis
Aleatorias

Variavel
ou Quantidade Aleatoria
e aquela cujo valor nos e
incerto. Ex.:
X : Numero
resultando do lancamento de um dado

Y : Nvel de glicose no sangue de um indivduo.

Sua incerteza e representada probabilisticamente,


p.e.,Pr(X = x) = 16 , x = 1, 2, 3, 4, 5, 6.

As Variaveis
Aleatorias
admitem varias
classificacoes
possveis:
Discreta ou Contnua

Observavel

Observavel
ou Nao

Exemplos:

Discreta e observavel:
X
observavel:

Discreta e nao
Indicador de doenca num indivduo

Contnua e observavel:
Vendas de um produto em larga
escala
observavel:

Contnua e nao
Y
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

21 / 176

de Probabilidade
Distribuicao

representadas pela funcao


de
Variaveis
Discretas sao
probabilidade f (x) = Pr(X = x), que caracteriza completamente a
incerteza a respeito de X pois
Pr(X A) =

Pr(X = x) =
xA

f (x)
xA

representadas pela funcao


de densidade
Variaveis
Contnuas sao
de probabilidade ou densidade f (x), que caracteriza a incerteza a
respeito de X pois
Pr(X A) =

f (x)dx
A

Exemplo: f (x) = 1/[(1 + x2 )] daqui, Pr(X [1, 2]) = 0, 6


Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

22 / 176

de probabilidade e a densidade definem uma


A funcao
de probabilidade.
distribuicao
de
Caractersticas importantes de uma distribuicao
probabilidade:

Medidas de Posicao:

Moda: valor mais provavel,

Media:
centro de gravidade, denotado por E[X]

Medidas de dispersao:

Variancia:
denotado
por V[X],

Desvio-Padrao:
V[X]

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

23 / 176

Normal
Distribuicao
A v.a (contnua) X que tem densidade
f (x) =

1
2 2

exp

1
2

normal com media

e dita ter distribuicao


e variancia
2.

Notacao:
X N(, 2 )

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

24 / 176

normal e simetrica

A distribuicao
e surge como resultante de

processos onde muitas fontes de incerteza intervem.


Infelizmente Pr(X A) = A f (x)dx so pode ser calculada
numericamente.
(N(0, 1)):
Resultados importantes para a normal padrao
Pr(X [2, 2]) = 0.95
Pr(X [1.64, 1.64]) = 0.90

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

25 / 176

Teorema de Bayes para Variaveis


Aleatorias

Suponha a existencia
de uma quantidade de interesse
(desconhecida) que chamaremos de . Nossa incerteza sobre e
representada pela densidade p().
Posteriormente, observamos uma outra quantidade X relacionada
cuja incerteza e representada
a (por exemplo, uma medicao)
pela densidade condicional f (x|).
observar X = x, nossa incerteza sobre passa a ser
Apos
refletida pela densidade condicional p(|x).
Pelo teorema de Bayes,
p(|x) =

f (x|)p()
f (x|)p()
f (x)

Importante e que o teorema nos ensina como atualizar nosso


receber informacao
relevante.
conhecimento apos
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

26 / 176


Teorema de Bayes para Variaveis
Normais
Sabe-se que o nvel de glicose em uma pessoa normal pode ser
N(120, 100), i.e,
descrito pela distribuicao
p() =

1
1
exp
2
200

120
10

Logo, Pr( estar entre 100 e 140) = 0, 95


y, em laboratorio

Uma medicao,
e feita. Vamos supor que a y|
e N(, 25), i.e.
f (y|) =

1
1
exp
2
50

y
5

errar o nvel em mais de 10 ml sao


de
da, as chances da medicao
5%
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

27 / 176

observada e de 127 ml.


A amostra e colhida e a medicao
Agora, nossa incerteza sobre o nvel de glicose e dado por

p(|y = 127) f (127 )p()


2
1
1 127
exp
exp
2
5
2
1
exp
2

125.6
4.5

120
10

Logo, (|y=127) e N(125.6, (4.5)2 ) e


Pr( estar entre 116.6 e 134.6) = 0.95

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

28 / 176


Figura: Teorema de Bayes para Variaveis
Normais

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

29 / 176


Vetores Aleatorios
de variaveis

Uma colecao
ou quantidades aleatorias
pode ser

agrupada num vetor aleatorio.

Se todas as componentes de um vetor aleatorio


forem
sera discreto com funcao
de
discretas, o vetor tambem
probabilidade:
f (x1 , . . . , xp ) = Pr(X1 = x1 , . . . , Xp = xp )
e Pr((X1 , . . . , Xp ) A) =

(x1 ,...,xp )A f (x1 , . . . , xp )

Se todas as componentes de um vetor forem contnuas, o


sera contnuo com densidade f (x1 , . . . , xp ) e
vetor tambem
Pr((X1 , . . . , Xp ) A) =

f (x1 , . . . , xp )dx1 . . . dxp


A

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

30 / 176

multivariada da normal e a distribuicao

A generalizacao

normal multivariada com vetor de medias


e matriz de

variancias-covari
ancias
denotada por N(, ).
Se (X1 , . . . , Xp ) N(, ),
cada componente Xj N(j , jj ) onde: j e o j-esimo

entao

componente do vetor jj e o j-esimo componente da


diagonal da matriz .
leva a uma normal
Finalmente, o teorema de Bayes tambem
for normal e o parametro

multivariada se a observacao
for
normal multivariado.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

31 / 176

Figura: Caso particular: Normal Bivariada

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

32 / 176

Principais Resultados

Teorema de Bayes para variaveis


aleatorias:
p(|x) =

f (x|)p()
f (x|)p()
f (x)

Condicional
Normal Multivariada - Distribuicao
Y1
,
Y2

1
1 12
,
2
12 2

1
Y1 |Y2 , , N[1 + 12 1
2 (Y2 2 ), 1 12 2 21 ]

Normal- Gama Multivariada

Se Y|, , N(, 1 ) e Gama(n/2, d/2) entao:


Y tn (, d/n)
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

33 / 176


Modelo Linear Dinamico

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

34 / 176

Usual
O Modelo de Regressao
temos uma variavel

Num modelo de regressao


resposta Y que e

explicada por um conjunto de variaveis


explicativas x1 , . . . , xp
da relacao

atraves
Y = 0 + 1 x1 + . . . + p xp + v
N(0, 2 ).
Em geral, assume-se que o v tem distribuicao
acima pode ser mais compactamente escrita como:
A equacao

onde: x =

Migon & Gamerman (UFRJ)

Y = x + v,

1
0
1
x1

e
= .
..
..
.
xp
p

Modelos Dinamicos
Bayesianos

XXVI SBPO

35 / 176


A natureza das variaveis
explicativas ou regressores e

bastante ampla. Podendo assim, utilizar-se qualquer variavel

quantificavel.
1 , . . . , p informam sobre a
Os coeficientes de regressao

sobre a resposta Y.
influencia
que os regressores tem

desconhecidos e estimados a
Na pratica,
seus valores sao
de observacoes
feitas sobre o modelo
partir de uma colecao
acima.
Assim, observamos respostas Y1 , . . . , Yn com seus
respectivos regressores x1 , . . . , xn . Simbolicamente, temos:
Y t = xt + vt ,

Migon & Gamerman (UFRJ)

t = 1, . . . , n.

Modelos Dinamicos
Bayesianos

XXVI SBPO

36 / 176

do Modelo
Definicao

Em modelos dinamicos
os parametros
mudam com o passar do
e estendido para
tempo. O modelo de regressao
Yt = xt t + vt ,

t = 1, . . . , n.

ao modelo de regressao
foi a
onde a unica
mudanca em relacao

indexacao de
acima cria uma profusao
de parametros

A formulacao
a
serem estimados.
Essa
O modelo acima necessita de mais informacao.
vem do fato que os parametros

informacao
sucessivos estao
intimamente relacionados.

Em geral, um parametro
e igual ao seu antecessor mais uma
causada pelas mudancas as
` quais o
pequena perturbacao
sistema esta sujeito.
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

37 / 176


temos:
Se o sistema e estatico,
como em regressao,
t = t1 = .

Em modelos dinamicos,
vamos admitir a forma mais geral
t = Gt1 t1 + wt
valores conhecidos e wt e uma perturbacao

onde Gt contem

aleatoria.
acima e conhecida como equacao
do sistema.
A equacao
Gt controla a parte determinstica da
A matriz de evolucao
do sistema e estabelece a propagacao
do sistema
evolucao
ao longo do tempo.
wt e responsavel

de
A perturbacao
pela introducao
incertezas devidas a` passagem do tempo e consequente

perda de informacao.
Note que se Gt = I e wt = 0, o modelo se reduz ao caso

estatico.
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

38 / 176

Exemplo

Se observamos uma serie


de vendas (y) explicada pela respectiva

de uma relacao
estavel

serie
de precos (x) atraves
teremos:
yt = t + t xt + vt
t = t1 + t
t = t1 + t
Assim,
explicadas pelo precos em uma regressao

As vendas sao

dinamica.
sera
A maior (ou menor) estabilidade dessa relacao
controlada pela magnitude dos incrementos t e t .

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

39 / 176

ser definido como:

O modelo linear dinamico


pode entao
das Observacoes:

Equacao
yt = F t t + vt ,

vt N(0, V)

do Sistema:
Equacao
t = Gt t1 + wt ,

wt N(0, W)

No exemplo acima, yt = venda, xt = preco, F t = (1, xt )


=

Migon & Gamerman (UFRJ)

Gt = I2 =

1 0
0 1

Modelos Dinamicos
Bayesianos

wt =

XXVI SBPO

40 / 176


Analise
Sequencial

A natureza sequencial
de series
temporais e devida a` obtencao

Nada mais razoavel

sequencial
de informacao.
que o metodo
de

seja sequencial.
analise
tambem

do sistema nos informa como a partir da posteriori de


A equacao
ontem podemos chegar a` priori de hoje.

O metodo
Bayesiano nos ensina como combinar a priori de hoje
que acabamos de obter para chegar a` posteriori
com a informacao
de hoje. Para amanha e dias futuros, o ciclo se repete.
total obtida ate o dia t } teremos:
Se Dt = { informacao
. . . ( t1 |Dt1 )

Evoluca o

+3 ( t |Dt1 ) Atualizacao+3 ( t |Dt ) . . .

Previsao


(Yt |Dt1 )

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

41 / 176


Previsao
no modelo dinamico

obtidas pela combinacao


da
Previsoes
sao

informacao a priori com a equacao das observacoes.


de yt = Ft t + vt com a priori p( t |Dt1 )
A combinacao
preditiva p(yt |Dt1 )
da distribuicao
permite a obtencao
serao
feitas.
baseado na qual as previsoes
Em particular, se quisermos
pontual: podemos tomar a media

uma previsao
dessa
E[Yt |Dt1 ].
distribuicao,
de 90% de probabilidade, basta
um intervalo de predicao
tomar A de forma que
0, 90 = Pr(Yt A|Dt1 ) =

p(yt |Dt1 )dyt


A

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

42 / 176

varios

A Previsao
passos a frente e feita de forma similar.
Se temos interesse em prever Yt+k no tempo t 1, precisamos
do sistema sucessivamente ate podermos
utilizar a equacao
de t1 .
escrever t+k como funcao
Por exemplo, combinando
t1 = Gt+1 t + wt+1

t = Gt t1 + wt

pode-se obter:
t+1 =
Gt+1 [Gt t1 + wt ] + wt+1
= Gt+1 Gt t1 + Gt+1 wt + wt+1
das observacoes
no
A partir da, combina-se com a equacao
preditiva p(yt+k |Dt1 ).
tempo t + k para obter a distribuicao
cumulativas para os proximos

Previsoes
k perodos, isto e,
podem ser obtidas pelo mesmo
Yt + Yt+1 + . . . + Yt+k1 tambem

metodo.
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

43 / 176


Tabela: DLM univariado: Variancia
Vt conhecida
Eq. Observ.:
Eq. Sistema:

Informacao:

Previsao:

Yt = Ft t + t
t = Gt t1 + t

(t1 |Dt1 ) N[mt1 , Ct1 ]


(t |Dt1 ) N[at , Rt ]

(Yt |Dt1 ) N[ft , Qt ]

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

t N[0, Vt ]
t N[0, Wt ]

at = Gt mt1
Rt = Gt Ct1 Gt + Wt

ft = Ft at
Qt = Ft Rt Ft + Vt

XXVI SBPO

44 / 176


Tabela: DLM univariado: Variancia
Vt conhecida (cont.)
recursivas de atualizacao

Relacoes
(t |Dt ) N[mt , Ct ]
mt = at + At et
Ct = Rt At At Qt
et = Yt ft
At = Rt Ft /Qt
preditivas para k 1
Distribuicoes
(t+k |Dt ) N[at (k), Rt (k)]
(Yt+k |Dt ) N[ft (k), Qt (k)]
at (k) = Gt+k at (k 1)
Rt (k) = Gt+k Rt (k 1)Gt+k + Wt+k
ft (k) = Ft+k at (k)
Qt (k) = Ft+k Rt (k)Ft+k + Vt+k
at (0) = mt
Rt (0) = Ct

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

45 / 176


Tabela: DLM: Variancia
desconhecida Vt = kt 1 , kt conhecido
Eq. Observ.:
Eq. Sistema:

Informacao:

Previsao:

Migon & Gamerman (UFRJ)

Yt = Ft t + t
t N[0, kt 1 ]
t = Gt t1 + t
t tnt1 [0, Wt ]
(t1 |Dt1 ) tnt1 [mt1 , Ct1 ]
(t |Dt1 ) tt nt1 [at , Rt ]
at = Gt mt1
Rt = Gt Ct1 Gt + Wt
(t1 |Dt1 ) G[nt1 /2, dt1 /2]
(t |Dt1 ) G[t nt1 /2, t dt1 /2]
(Yt |Dt1 ) tt nt1 [ft , Qt ]
ft = Ft at
Qt = Ft Rt Ft + kt St1

Modelos Dinamicos
Bayesianos

XXVI SBPO

46 / 176


Tabela: DLM: Variancia
desconhecida Vt = kt 1 , kt conhecido
recursivas de atualizacao

Relacoes
(t |Dt ) tnt [mt , Ct ]
(t |Dt ) G[nt /2, dt /2]
mt = at + At et
Ct = (St /St1 )Rt At At Qt
et = Yt ft , At = Rt Ft /Qt
nt = t nt1 + 1, dt = t dt1 + St1 e2t
St = dt /nt
preditivas para k 1

Distribuicoes
(t+k |Dt ) tt nt [at (k), Rt (k)]
(Yt+k |Dt ) tt nt [ft (k), Qt (k)]
at (k) = Gt+k at (k 1)
Rt (k) = Gt+k Rt (k 1)Gt+k + Wt+k
ft (k) = Ft+k at (k)
Qt (k) = Ft+k Rt (k)Ft+k + kt+k St
at (0) = mt ,
Rt (0) = Ct
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

47 / 176


Modelos de Tendencia

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

48 / 176

O mais simples modelo dinamico


e o modelo de tendencia

estavel
ou modelo polinomial de primeira ordem. Ele e
composto apenas de um nvel que varia segundo um passeio

aleatorio:
yt = t + vt , vt N(0, Vt )
t = t1 + wt ,

wt N(0, Wt )

Segundo esse modelo, o nvel permanece localmente


constante, mas varia quando se considera largos perodos de
tempo.
das observacoes
em torno dos nveis
Usualmente, a variacao
temporais do
(medida por V) e bem maior que as variacoes
nvel ao longo do tempo (medidas por W).

Ele e obtido ao particularizar o modelo dinamico


com F t = 1 e
Gt = 1.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

49 / 176

O modelo polinomial de segunda ordem ou modelo de

tendencia
linear, permite um crescimento no nvel. Isso e
de um parametro

quantificado atraves
adicional e o modelo fica:
yt = t + vt
t = t1 + t1 + w1t
t = t1 + w2t
1
1 1
e Gt =
0
0 1
Aqui, o nvel permanece localmente linear, mas a forma da reta
pode variar com o tempo.
Esse modelo e obtido com F t =

pouco utilizadas.
Tendencias
de ordem maior sao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

50 / 176

CANDY.DAT
Aplicacao:

Os dados deste exemplo correspondem as vendas de uma


bala (SALES) do arquivo CANDY.DAT do pacote BATS.

(ver serie)

Nas figuras a seguir apresentam-se alguns resultados do


ajuste de modelos polinomiais de primeira e segunda ordem

a serie
de Vendas Mensais de Janeiro de 1976 a Dezembro
de 1981.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

51 / 176

CANDY.DAT: Modelo Polinomial de Primeira Ordem

Figura: Estimativa do nvel

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

52 / 176

Figura: Estimativa das vendas

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

53 / 176

um passo a frente
Figura: Previsao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

54 / 176

CANDY.DAT: Modelo Polinomial de Segunda Ordem

Figura: Estimativa do nvel

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

55 / 176

Figura: Estimativa das vendas

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

56 / 176

um passo a frente
Figura: Previsao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

57 / 176

Modelo Polinomial de Primeira Ordem

Yt = t + t ,

t N[0, Vt ]

ou

Yt |t N[t , Vt ]

t = t1 + t ,

t N[0, Wt ]

ou

t |t1 N[t1 , Wt ]

de observacao

onde t : nvel da serie


no instante t, t : erro da equacao
de evolucao.

e t : erro da equacao

de previsao:

Funcao
ft (k) = E[Yt+k |Dt ] = E[t |Dt ] = mt , k > 0
pois E[Yt+k |t ] = E[t+k |t ] = t

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

58 / 176

de atualizacao
para {1, 1, Vt , Wt }
Tabela: Equacoes
inicial
Informacao

(0 |D0 ) N[m0 , C0 ]

(a) Posteriori para t1

(t1 |Dt1 ) N[mt1 , Ct1 ]

(b) Priori para t

(t |Dt1 ) N[mt1 , Rt ]
Rt = Ct1 + Wt

um passo a frente
(c) Previsao

(Yt |Dt1 ) N[ft , Qt ]


ft = mt1
Qt = Rt + Vt

(d) Posteriori para t

(t |Dt ) N[mt , Ct ]
mt = mt1 + At et
Ct = At Vt
At = Rt /Qt
et = Yt ft

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

59 / 176

um passo a frente et = Yt ft = Yt mt1


et : erro de previsao
At =

Rt
Qt

Rt
Rt +Vt

Ct1 +Wt
Ct1 +Wt +Vt

At : 2t (Yt , t ) ou em t = + Yt 0 At 1
mt = mt1 + 2t (Yt mt1 ) = At Yt + (1 At )mt1

preditivas
Tabela: Distribuicoes

k passos a` frente:
estimacao
(Yt+k |Dt ) N[mt , Qt (k)]
Qt (k) = Ct + kj=1 Wt+j + Vt+k
k-step lead time forecast:
Xt (k) = Yt+1 + Yt+2 + . . . + Yt+k , k > 0
(Xt+k |Dt ) N[kmt , Lt (k)]
Lt (k) = k2 Ct + kj=1 Vt+j + kj=1 j2 Wt+k+1j
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

60 / 176


Evolucao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

61 / 176

foi discutido o processamento da incerteza a


Ate agora, nao

respeito das variancias


V e W.

A abordagem Bayesiana para parametros


desconhecidos e
via teorema de Bayes.
sempre a mesma: atualizacao

e tratavel

O tratamento dado a` variancia


das observacoes
acontece com a variancia

analiticamente. O mesmo nao


do
sistema.
baseada em fatores de
Felizmente, existe uma solucao

desconto que produz uma alternativa aceitavel.


diminui com o
Como ja dissemos, o valor da informacao
tempo.
e controlada pela evolucao
do sistema,
Essa diminuicao
do aumento da incerteza do sistema.
atraves

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

62 / 176


No modelo estavel,
temos que
V[t |Dt1 ] = V[t1 |Dt1 ] + W t

do sistema, o seu inverso,


Como a variancia
mede a dispersao
mede a informacao
do sistema.
a precisao

Quanto mais dispersa for a variavel,


maior sera sua variancia
e
Logo, dispomos de menos informacao

menor sera sua precisao.

sobre essa variavel.


de informacao

Pensando agora em percentagem ou fracao


perdida com a passagem de tempo, podemos definir um
fator de desconto (0, 1], tal que
V 1 [t |Dt1 ] = V 1 [t1 |Dt1 ]
acima fornecem uma base para especificacao

As duas equacoes
de W t .
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

63 / 176

que
O fator de desconto e a percentagem de informacao
passa de um perodo a outro.
bruscas se encontram acima
Valores tpicos para sistemas sem variacoes
de 90%
e sugere-se que
A escolha do valor adequado vai depender da aplicacao
alguns valores sejam comparados.

produzem diferencas perceptveis.


Valores muito proximos
nao
Valores muito baixos (abaixo de 0,8) tendem a introduzir muita incerteza e
muito grandes.
produzem limites de incerteza para predicao
Valores muito altos representam um sistema com mudancas muito suaves.

ha perda de
No limite, quando = 1, temos o modelo estatico
onde nao

informacao.
de desconto pode ser estendida a modelos mais gerais
A mesma ideia

com varios
descontos aplicados a partes diferentes do modelo. Essa
ficara mais clara quando abordamos superposicao
de modelos.
formulacao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

64 / 176

CANDY.DAT
Aplicacao:

Ilustramos o uso de fatores de desconto com a serie


de
vendas de uma bala (SALES) do arquivo CANDY.DAT do

pacote BATS. (ver serie)


um passo a
As figuras a seguir apresentam as previsoes

frente resultantes do ajuste de um modelo de tendencia


constante com os seguintes fatores de desconto: 1,0; 0,9 e
0,8

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

65 / 176


Figura: Fator de Desconto = 1 (estrutura estatica)

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

66 / 176

Figura: Fator de Desconto = 0, 9

BATS: Trend: Constant, Discount:Trend=0.90,Variance=0.99

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

67 / 176

Figura: Fator de Desconto = 0, 8

BATS: Trend: Constant, Discount:Trend=0.80,Variance=0.99

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

68 / 176

Parte II

Topicos
Especiais

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

69 / 176


Analise
Retrospectiva

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

70 / 176

Analise
retrospectiva usa toda a serie
observada para

reavaliar a inferencia
realizada durante o procedimento
sequencial.

e devida a` utilizacao
de observacoes

Essa reavaliacao
o perodo de interesse.
colhidas apos
sabemos mais e dispomos de mais
Com mais informacao,
instrumentos para entender o que se passou.
de passagem de informacao
para tras
no
Essa operacao
ou analise

retrospectiva.
tempo e chamada de suavizacao

Da analise
sequencial,
obtemos p( t |Dt ). Se coletamos

de nossa
observacoes ate o tempo t + k, a melhor descricao
de p( t |Dt+k ).
incerteza sobre t e atraves
Observe, no entanto, que so podemos nos beneficiar dessa regra,
serem decorridos k perodos de tempo.
apos

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

71 / 176

CANDY.DAT
Aplicacao:

Ilustramos o resultado da analise


retrospectiva com a serie
de vendas de uma bala (SALES) do arquivo CANDY.DAT do

pacote BATS. (ver serie)


As figuras a seguir apresentam as estimativas suavizadas

para as vendas e para o nvel de serie


obtidas a partir do
ajuste de um modelo polinomial de primeira ordem.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

72 / 176

Figura: Estimativas Retrospectivas

BATS: Trend: Constant, Discount:Trend=0.90,Variance=0.99

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

73 / 176

Figura: Estimativas On-Line e Suavizada do Nvel

Pode-se ver que com a filtragem tem-se trajetorias


mais suaves e limites de incerteza mais

proximos.
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

74 / 176

Suavizadas
Distribuicoes

Modelo com variancia


conhecida:
Para 1 k t
(tk |Dt ) N[at (k), Rt (k)]
at (k) = mtk Btk [atk+1 at (k + 1)]
Rt (k) = Ctk Btk [Rtk+1 Rt (k + 1)]Btk
Bt = Ct Gt+1 R1
t+1

Modelo com variancia


desconhecida:
Para 1 k t
(tk |Dt ) tnt (k) [at (k), Rt (k)]
(tk |Dt ) G[nt (k)/2, dt (k)/2]
at (k) = mtk Btk [atk+1 at (k + 1)]
Rt (k) = Ctk Btk [Rtk+1 Rt (k + 1)]Btk
Bt = Ct Gt+1 R1
t+1
nt (k) = ntk + tk+1 (nt (k + 1) tk+1 ntk )
1
1
S1
= S1
t
tk + tk+1 (St (k + 1) Stk )
dt (k) = nt (k)St (k)
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

75 / 176

de Modelos
Superposicao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

76 / 176


Antes de apresentar o tratamento para variaveis
causais e
sazonalidade, e util
termos uma forma geral para estruturar e

acomodar as varias
componentes intervenientes num modelo

dinamico.

Muitas series
temporais exibem um comportamento bastante
complexo. Ao identificarmos as caractersticas mais marcantes,
de formular um modelo. A serie

estamos caminhando na direcao

de acidentes e um exemplo tpico. (ver serie)

suave do
A tendencia
global parece ser de uma variacao
nvel.
em torno desse
Se agora nos concentramos na variacao
nvel, podemos detectar um comportamento cclico.
permitiu identificar os dois componentes de um
Essa inspecao

modelo: um componente para a tendencia


e outro para a
sazonalidade.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

77 / 176


A estrutura dos modelos dinamicos
e apropriada para essa
estrutura, pois permite que as componentes sejam
modeladas separadamente e depois integradas num modelo.

No caso mais comum de duas componentes: tendencia


e
das observacoes
com
sazonalidade, estruturamos a equacao
dois termos.
yt = yNt + ySt + vt
de um modelo
Cada um dos termos e descrito atraves

dinamico
yNt = FNt Nt
Nt = GNt Nt1 + wNt
ySt = FSt St
St = GSt St1 + wSt

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

78 / 176

das
Se agora integramos esses termos, obtemos a equacao

observacoes
Yt = F t + vt
onde F =

FNt
FSt

e=

Nt
St

do sistema (integrado) fica


Similarmente, a equacao
t = G t1 + wt ;
onde Gt =

Migon & Gamerman (UFRJ)

GNt 0
0 GSt

wt N(0, W t )
e Wt =

Modelos Dinamicos
Bayesianos

WNt
0
0
WSt

XXVI SBPO

79 / 176

construdos da mesma
Modelos com mais componentes sao
das observacoes

forma: cada termo contribui para a equacao

do sistema.
e com um bloco de parametros
para a equacao
da variancia

do metodo

A especificacao
do sistema atraves
e feita
dos descontos segue o mesmo caminho, i.e,
agrupados
componente a componente. Nesse caso, sao

conjuntos de parametros
cujo comportamento e julgado
temporal.
similar em termos de variacao
Exemplo: no modelo de vendas explicadas pelo preco temos

dois parametros,
t e t (coeficiente de preco), que evoluirao
segundo descontos N e P tais que
V 1 [t |Dt1 ] = N V 1 [t1 |Dt1 ]
V 1 [t |Dt1 ] = S V 1 [t1 |Dt1 ]

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

80 / 176


Modelos com Variaveis
Causais

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

81 / 176


O modelo generico
usado para introduzir os modelos

dos
dinamicos foi obtido a partir de uma generalizacao

modelos de regressao.

Se a serie
de vendas, (yt ) e explicada pela serie
de precos
(xt ) temos:
yt = t + t xt + vt
t = t1 + w1t
t = t1 + w1t

Nada na estrutura acima impede que outras variaveis


sejam
includas como regressores.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

82 / 176

No caso de uma serie


Yt com variaveis
explicativas x1t , . . . , xpt ,
temos
yt = 0t + 1t x1t + . . . + pt xpt + vt
it = i,t1 + wit ;

i = 0, 1, . . . , p

dinamica

chamado de modelo de regressao

A estrutura de modelo dinamico


e evidente com:
F t = (1, x1t , . . . , xpt )
Gt = Ip+1 , a matriz identidade de ordem p + 1 e
wt = (w01 , w1t , . . . , wpt )

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

83 / 176

Multipla
MLD de Regressao

Eq. observacao:
Eq. sistema:
onde
F t = (Xt1 , . . . , Xtn )
X1 , . . . , Xn
Xti
t
t

Migon & Gamerman (UFRJ)

:
:
:
:
:

Yt = F t t + t ,
t = t1 + t ,

t N[0, Vt ]
t N[0, W t ]

vetor de regressoras

variaveis
independentes

X no instante t
valor da iesima
variavel

n 1 vetor de parametros
da regressao

matriz da variancia
de t .

Modelos Dinamicos
Bayesianos

XXVI SBPO

84 / 176

CANDY.DAT
Aplicacao:

Os dados deste exemplo correspondem as vendas e precos


mensais de uma bala do arquivo CANDY.DAT do pacote
BATS.

Espera-se que serie


de vendas (SALES) esteja relacionada a`

serie
de precos (PRICE).
Nas figuras a seguir apresentam-se alguns resultados do
dinamica

ajuste de um modelo de regressao


com tendencia

estavel, utilizando o preco como variavel explicativa.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

85 / 176

Figura: MPlot de Vendas e Precos

Observa-se um aparente movimento comum das 2 series.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

86 / 176

Figura: X-YPlot de Vendas e Precos

existente entre as series

O grafico
evidencia a relacao
(Correlacao=-0.63)

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

87 / 176

exibem melhoras consideraveis

com os modelos sem


As previsoes
em comparacao
precos.

Figura: Previsao

BATS: Trend: Constant, Discount: Trend=0.90, Variance=0.99


Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

88 / 176

Figura: Coeficiente e efeito dos precos

as trajetorias

Este grafico
contem
de E[t |Dt ] e de E[t |Dt ] xt .

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

89 / 176

Figura: Estimativas Retrospectivas para vendas

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

90 / 176

Figura: Coeficiente e efeito de preco suavizados

as trajetorias

a filtragem. Pode-se
Este grafico
contem
de E[t |Dt ] e de E[t |Dt ] xt apos
varia de 1 a 0.6. Esse movimento e permitido pelo
ver que o coeficiente da regressao
do .
MLD atraves
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

91 / 176

com Regressores
Previsao

em modelos com regressores, e


Para fazer previsao

necessario
ter o valores dos regressores ao longo do

horizonte de previsao.
sao
incertos e o
Normalmente, esses valores tambem
tratamento a ser dado e muito mais complicado.

sob varios

Uma alternativa intermediaria


e fazer previsao

cenarios plausveis.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

92 / 176

para o perodo 1982/1 - 1982/12


Figura: CANDY.DAT: Previsao

sao
zero, portanto, as
Neste caso todos os valores de preco para o perodo de predicao
tem
a forma constante do modelo estavel.

previsoes
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

93 / 176

Modelos com Sazonalidade

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

94 / 176

Modelagem de Forma Livre

Modelos sazonais requerem uma componente periodica


no
modelo.
mais simples e atraves
de fatores ou
A representacao
indicadores de cada perodo no ciclo. Para dados
usados quatro indicadores.
trimestrais, sao
envolve o uso de efeitos indicando a
Uma pequena alteracao
sazonal em torno de um nvel. Nesse caso, os
variacao
restritos a ter soma zero.
efeitos estao
Fatores trimestrais de 100, 140, 80 e 120 equivalem a um
nvel de 110 e efeitos trimestrais de - 10, 30, - 30 e 10.
e mais atraente pois permite a
A ultima
formulacao

entre sazonalidade e tendencia.

separacao
deve ser mantida em todas as afirmacoes

A restricao

probabilsticas mas e facilmente incorporavel


ao metodo
de

inferencia
utilizado.
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

95 / 176


Para dados trimestrais, os modelos dinamicos
utilizam quatro
indicadores. A passagem do tempo faz com que eles experimentem
Assim,
uma rotacao.

trim4
trim1

t1 =
trim2
trim3
pode ser efetuada pela matriz de evolucao

Essa rotacao

0 1 0 0
0 0 1 0

G=
0 0 0 1
1 0 0 0
de observacoes
que
O modelo e completado por uma equacao

considera apenas a primeira componente do vetor parametrico,


ou seja,
para um ciclo de p perodos e analoga.

Ft = (1, 0, 0, 0). A extensao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

96 / 176


Modelagem por harmonicos

cclicos pode ser feita


Uma outra modelagem de padroes

usando funcoes
trigonometricas.
cos((t 1)) e periodica

A funcao
com perodo 2
. Se

= /6, o perodo e 12 e o maximo


ocorre para t = 1.
Dados mensais com ciclo anual podem ser concisamente
modelados via
yt = at cos

(t 1)
6

+ t

onde at e um parametro
que controla a amplitude e o maximo
drastica

ocorre em janeiro. Observe a reducao


na dimensao

do vetor parametrico
de 11 para 1.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

97 / 176


Defasagens no ponto de maximo
do ciclo podem ser

acomodadas com um parametro


extra segundo
yt = at cos

(t 1)
6

+ bt sin

(t 1)
6

+ t

dinamica

harmonica

A formulacao
dessa funcao
utiliza 2

parametros,
Ft =

1
0

, Gt =

cos sin
sin cos

coseno.
Esse modelo descreve um ciclo segundo uma funcao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

98 / 176

cclicos mais complicados podem ser modelados


Padroes
de formas harmonicas

com a inclusao
de frequ encia
maior. A
cos(2(t 1)) e similar porem
completa 2 ciclos
funcao
durante um perodo de tempo 2/

O resultado fundamental aqui informa que qualquer padrao


cclico de perodo p pode ser reproduzido com a soma de, no

maximo,
p/2 harmonicos
de perodos p/j, j = 1, . . . , [p/2].
A vantagem desse resultado reside em podemos fazer

economia no numero
de parametros
utilizados e

consequentemente
aumentar nossa capacidade de

aprendizado sobre o sistema e melhorar nossas previsoes.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

99 / 176

CANDY.DAT
Aplicacao:

A serie
de vendas do arquivo CANDY.DAT do BATS exibe um
havia sido tratado.
comportamento cclico que ate agora nao

(ver serie)

Nas figuras a seguir apresentam-se os resultados da analise

da serie
CANDY.DAT considerando um modelo de tendencia
constante e um regressor (preco), incluindo a componente

sazonal representada de forma livre e com harmonicos.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

100 / 176

CANDY.DAT: Modelagem de forma livre


um passo a frente
Figura: Previsao

BATS: Trend: Constant, Regression: PRICE, Seasonal: FREE-FORM


Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

101 / 176

Figura: Estimativas Retrospectivas

BATS: Trend: Constant, Regression: PRICE, Seasonal: FREE-FORM

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

102 / 176

Figura: Estimativa On-Line da Sazonalidade

BATS: Trend: Constant, Regression: PRICE, Seasonal: FREE-FORM

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

103 / 176

Figura: Estimativa Suavizada da Sazonalidade

BATS: Trend: Constant, Regression: PRICE, Seasonal: FREE-FORM

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

104 / 176


do efeito de janeiro ao longo do tempo
Este grafico
mostra claramente variacao

ressaltando a importancia
da modelagem dinamica.

Figura: Estimativas On-line e suavizadas do efeito de Janeiro

BATS: Trend: Constant, Regression: PRICE, Seasonal: FREE-FORM

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

105 / 176

Figura: Estimativa da sazonalidade com limites de incerteza: forma livre

sazonal bastante similar ao de uma funcao


seno embora
Esta figura mostra um padrao
variando no tempo, da sugere que a flexibilidade fornecida pela modelagem em forma

do
livre pode ter sido desnecessaria.
Pode-se contemplar a possibilidade de reducao
do uso de formas harmonicas

tamanho do modelo atraves


para a componente sazonal.
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

106 / 176


CANDY.DAT: Modelagem com Harmonicos
mensais, temos que o perodo tem
Como os dados sao

tamanho p = 12, havendo portanto ate 6 harmonicos


de
perodos. O primeiro ou fundamental, de perodo 12 = 12/1; o
segundo, de perodo 6 = 12/2 . . . ate o ultimo,
de perodo

2 = 12/6.
da dimensao
do vetor parametrico

A diminuicao
e importante
altere as previsoes
pontuais, diminui a
pois embora nao
da performance do modelo.
incerteza e facilita a monitoracao
disso, uma modelagem mais parcimoniosa acelera o
Alem

tempo de processamento da analise.


Esta modelagem da sazonalidade permite que o perodo do

ciclo sazonal seja diferente do perodo natural da serie


e que

o modelo escolhido contenha apenas o harmonico


senoidal.
fundamental, ou seja, uma unica
funcao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

107 / 176


CANDY.DAT: Modelagem com 1o harmonico

um passo a frente
Figura: Previsao

BATS: Trend: Constant, Regression: PRICE, Seasonal: RESTRICTED-HARMONICS

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

108 / 176

Figura: Estimativas Retrospectivas

BATS: Trend: Constant, Regression: PRICE, Seasonal: RESTRICTED-HARMONICS

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

109 / 176

Figura: Estimativa da sazonalidade com limites de incerteza: 1o

harmonico

bastantes parecidas com a modelagem de forma livre.


As estimativas sao
BATS: Trend: Constant, Regression: PRICE, Seasonal: RESTRICTED-HARMONICS

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

110 / 176

incluindo sazonalidade
CANDY.DAT: Previsao

com limites de incerteza: Forma livre


Figura: Previsao

e 1982/1 a 1982/12. Os regressores estao


zerados.
O horizonte de previsao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

111 / 176

com limites de incerteza: 1o harmonico

Figura: Previsao

com a figura anterior, conclui-se que as previsoes


sao
similares mas tem

Da comparacao
maior incerteza na modelagem em forma livre.
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

112 / 176

da Priori
Especificacao

Ate agora, foram realizadas analises


utilizando as
a priori de referencia

distribuicoes
do BATS. Nada impede
usar prioris informativas.

Para a componente sazonal, so e necessario


a especificacao
de incertezas a respeito dos fatores sazonais.
No caso de modelagem por forma livre, BATS se encarrega
de soma zero seja respeitada. No
de garantir que a restricao

caso de modelagem via harmonicos,


BATS trata de ajustar

essa incerteza especificada pelo usuario


da melhor forma
possvel mesmo que o modelo tenha sido especificado

apenas com alguns dos harmonicos.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

113 / 176


Monitoracao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

114 / 176

fazer a previsao
e observar o valor correspondente,
Apos
de um modelo.
podemos avaliar a precisao
basica

A ideia
e compara-lo
perante alternativas. Essa
pode servir para sinalizar acontecimentos
comparacao
inesperados
e baseada numa distribuicao
de
Como a previsao
mais
probabilidade, quanto mais na cauda cair a observacao,
Isso
extrema e inesperada (para o modelo) e a observacao.

pode ocorrer devido a uma serie


de motivos:
uma mudanca passageira e ocasional na estrutura dos dados;
uma mudanca persistente e estrutural;
da performance do modelo.
uma deterioracao

O importante e que o sistema tenha capacidade de soar o


alarme

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

115 / 176

funciona assim:
Um esquema de monitoracao
cair muito na cauda, soa o alarme.
quando a observacao

Nesse momento, o preditor tera de refletir sobre a adequacao

de seu modelo e, se for o caso, modifica-lo.


de alternativas e
Para auxiliar-lo, e util
termos uma colecao
de acao.

possveis direcoes

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

116 / 176

Acidentes rodoviarios

Aplicacao:
graves
Os dados deste exemplo correspondem ao numero
de

acidentes rodoviarios graves (NUMBER) do arquivo

QACCIDS.DAT do pacote BATS. (ver serie)

Na serie
de acidentes rodoviarios
pode-se notar 3 intervalos
de tempo distintos dentro dos quais o comportamento da

sazonal permanece estavel

serie
e estavel
mas o padrao
ao

longo da serie.
Podemos analisar os 3 intervalos

separadamente mas estaramos assim perdendo informacao,


por exemplo, sobre a componente sazonal.
Nas figuras a seguir apresentam-se alguns resultados do

ajuste de um modelo de tendencia


linear com componente
de monitoracao
do
sazonal de forma livre utilizando a opcao
BATS.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

117 / 176


Ajustando um modelo com 2 componentes: uma tendencia
linear e uma forma livre para a

sazonalidade e especificando descontos constantes de 0.98 para tendencia


e
sazonalidade tem-se:

sem monitoracao

Figura: Previsoes

sazonal mas se
Na figura pode se ver que o modelo aprende rapido
sobre o padrao
comporta muito mal no incio dos intervalos onde ocorre mudanca. O motivo da demora a
de descontos altos.
se ajustar a` mudanca e a especificacao
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

118 / 176


Na figura temos o resultado da analise
retrospectiva. Podemos ver um comportamento

sazonal bastante estavel


sobre uma tendencia
linear que varia suavemente. A estrutura do
modelo impossibilita mudancas bruscas em quaisquer de suas componentes.

Figura: Estimativas suavizadas

BATS:Trend: Linear, Seasonal: Free-form, Discount:Constant, Fit:Reference.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

119 / 176

Para melhorar a performance do modelo, ligamos o monitor. Pelo menos, esperamos que
do modelo.
ele sinalize os tempos onde existe deterioracao

com monitoracao

Figura: Previsoes

BATS:Trend: Linear, Seasonal: Free-form, Discount:Constant, Interrupt: Level Decrease


Monitor, Fit:Reference.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

120 / 176

A figura anterior mostra que, mesmo com o monitor ligado, a

analise
permaneceu a mesma!
foram suficientemente
Os grosseiros erros de 1974 nao
grandes para fazer o monitor soar. Em 1974 o sistema ainda
de referencia.

esta incerto devido a` inicializacao


estao
muito
Observe que os limites de 90% de incerteza nao
de 1974 e que os limites aumentaram
longe das observacoes
em seguida a elas.

Para confirmar o ponto acima, vamos repetir a analise


com
menores incerteza a priori.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

121 / 176

na incerteza inicial foi


O monitor agora sinaliza no 1o trimestre de 1974. A reducao
extrema o suficiente para soar o alarme.
suficiente para tornar essa observacao

com monitoracao

Figura: Previsoes

fazer nada (ja vimos nao


ser apropriado);
opcoes:

Neste momento temos tres


Nao
mesmos.
deixar que o BATS atue automaticamente ou fazer algo nos

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

122 / 176


Se deixamos ao BATS solucionar o problema temos que a analise
continua tratando essa
como aberrante e nao
a incorpora a` analise.

ao novo nvel e bem


observacao
A adaptacao

mais rapida.

com monitoracao
e menos incerteza a priori
Figura: Previsoes

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

123 / 176

O monitor do BATS funciona baseado nas seguintes regras:


foi devida apenas a` observacao
mais
Se a sinalizacao
recente, ele a ignora e aumenta a incerteza a respeito dos

parametros
foi devida as
` ultimas

Se a sinalizacao
k observacoes,
ha

de mudanca estrutural na serie

indicacao
e apenas ocorre

um aumento na incerteza a respeito dos parametros.


da diminuicao

O aumento da incerteza e feito atraves

momentanea
dos descontos para: 0.1 para tendencia
e
componente sazonal, 0.8 para regressores e 0.9 para

variancia
das observacoes.
Esses valores e a sensibilidade

do monitor tambem podem ser mudados.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

124 / 176

do monitor de queda no nvel (desvio padrao


para -2.5 e limiar
Mudando as especificacoes
do fator de Bayes para 0.3) temos:

com monitor mais sensvel


Figura: Previsoes

Agora, o monitor sinaliza em 1973/4 e 1983/4, so que no ultimo


caso baseado numa serie

sinalizou em 1974/1 pois o modelo estava preparado


de 4 observacoes.
O monitor nao
de 1983 foi
para mudancas com incertezas aumentadas e nenhuma observacao
dispensada.
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

125 / 176


Intervencao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

126 / 176

funciona sem
Normalmente, um sistema de previsao

mudancas ao longo de sua analise.


Existem momentos,
entretanto, que e preciso fazer mudancas no seu
funcionamento.
Anteriormente, havamos discutido a possibilidade do

conhecimento de eventos excepcionais intervirem na serie

estudada, usando como exemplo a falencia


de um
nao
seja parte
competidor. Embora esse tipo de informacao

da serie
historica,
e fundamental para o sucesso do modelo,

que seja incorporado a` analise.


utilizada, ao inves
de evoluirmos de p(t1 |Dt1 )
Na notacao
para p(t |Dt1 ) devemos faze-lo para p(t |Dt1 , It ) onde It
relevante. Note que essa mudanca e
consiste na informacao
essencialmente subjetiva.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

127 / 176

a sinalizacao
do
Ate agora, so interviemos no modelo apos
e desnecessaria.

monitor. Obviamente, essa restricao


Na

que nos sugere


pratica,
muitas vezes temos informacao

possveis pontos de mudanca na serie.

No caso da serie
de acidentes, possumos tais informacoes:

em 1974/1 a crise do petroleo


forcou um aumento significativo
no preco da gasolina e

em 1983/1 passou a ser obrigatorio


o uso de cinto de
seguranca nos carros.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

128 / 176

Acidentes rodoviarios

Aplicacao:
graves

Na serie
de acidentes (ver serie)
indicamos ao BATS que vamos a intervir em 1973/4 e

1983/1. O programa para em esses dois pontos antes de incorporar as observacoes.


Foram mudadas as prioris do nvel e do crescimento.

com intervencao
antecipada em 1973/4 e 1983/1
Figura: Previsoes

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

129 / 176


antecipada
Figura: Analise
Retrospectiva com intervencao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

130 / 176

antecipada
Figura: Nvel Suavizado com intervencao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

131 / 176

antecipada
Figura: Crescimento Suavizado com intervencao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

132 / 176

Sazonal da analise

antecipada
Figura: Padrao
com intervencao

O comportamento sazonal e bastante estavel


ao longo de toda a serie.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

133 / 176


Acidentes: Todas as intervencoes

Normalmente podemos monitorar e intervir numa mesma analise

com todas as intervencoes

Figura: Previsoes

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

134 / 176

Na figura anterior:
O monitor sinaliza em 1970/1 mas a incerteza ainda e grande
intervir.
e melhor nao

A analise
para no perodo pre-especificado
1973/4 onde
fazem-se mudancas na priori.
O monitor sinaliza em 1974/3 e 1978/1, em ambos permite-se
automatica.

intervencao

Finalmente a analise
para em 1983/1 onde repetem-se as
mudancas na priori.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

135 / 176

Analise
de Dados: transformacoes

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

136 / 176


A serie

O grafico
mostra as vendas trimestrais de filhotes de peru na Irlanda.

Figura: Vendas trimestrais de filhotes de peru de 1 dia na Irlanda

de uma tendencia

Alem
de crescimento, a serie
exibe amplitude sazonal tambem
crescente.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

137 / 176

nos dados

Para controlar essa nao-linearidade,


procedem-se as transformacoes
mostradas na figura:

na serie

Figura: Diferentes transformacoes


de filhotes de peru

A potencia
3/4 parece dar os melhores resultados.

Outro aspecto interessante da serie


e a mudanca no padrao

sazonal de baixo, alto, alto, baixo para baixo, medio,


alto, baixo.
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

138 / 176


As series
transformadas foram analisadas com modelo de

tendencia
linear e componente sazonal de forma livre e priori

da performance foram:
de avaliacao
informativa. Os criterios

1 passo a frente.
MSE: erro medio
quadratico
de previsao

1 passo a frente.
MAD: erro medio
absoluto de previsao
Logaritmo da verossimilhanca do modelo.
A verossimilhanca do modelo e a densidade dos dados condicionada ao
modelo. Se o modelo M1 tem densidade mais alta que M2 , ele tem mais
chances de ter gerado os dados e deve ser preferido. Essa regra pode
da inferencia

ser formalizada probabilisticamente atraves


bayesiana: se
os dois modelos tem a mesma probabilidade a priori M1 tem
pelo Teorema de Bayes segue que
verossimilhanca maior que M2 entao
a probabilidade a posteriori de M1 e maior que a de M2

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

139 / 176


3/4

Tanto na transformacao
yt quanto na yt , os modelos

dinamicos
sempre foram superiores aos modelos estaticos

de descontos utilizadas.
para varias
combinacoes
3/4

yt o modelo dinamico

Na transformacao
com T = 0.9 e

S = 0.7 e o modelo estatico


forneceram:

Criterio
MSE
MAD
log(L)

M. Dinamico
111.0
7.9
-134.7

M. Estatico
153.6
9.6
-144.2

pode ser feita tambem


com as previsoes

Essa comparacao

mostradas nas proximas


figuras.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

140 / 176

para a transformacao
y3/4 : Modelo Estatico

Figura: Previsoes

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

141 / 176


para a transformacao
y3/4 : Modelo Dinamico
Figura: Previsoes

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

142 / 176


Para comparar series
transformadas zt = yt , a verossimilhanca
deve ser ajustada pelo fator n t yt1 . Com esse ajuste, as

log-verossimilhancas dos modelos dinamicos


ficam:

Transformacao
yt , = 1/2

Log-L ( ) Log-L ajustado


(0.9,0.8)
-71.1
-194.8
(1.0,1.0)
-77.6
-201.3
3/4

yt , = 3/4
Transformacao

Log-L ( ) Log-L ajustado


(0.9,0.7)
-134.7
-194.5
(1.0,1.0)
-144.2
-204.0
indicando uma
Com este ajuste, as log-verossimilhancas estao
3/4

ligeira preferencia pela transformacao yt

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

143 / 176

em series

As previsoes
transformadas devem ser transformadas a`
Uma previsao
com
escala original para melhor comunicacao.

media
87 e limites de 90% de incerteza (87 15) e (87 + 15) na
3/4
com media

escala yt corresponde a previsoes


874/3 = 382 e
limites de 90% de incerteza (87 15)4/3 = 299 e (87 + 15)4/3 = 469

Transformacao
yt , = 1/2
Perodo Moda Prevista Intervalo 90%
1982 IV
380
(278,498)
1983 I
422
(317,507)
3/4

yt , = 3/4
Transformacao
Perodo Moda Prevista Intervalo 90%
1982 IV
382
(299,469)
1983 I
424
(317,507)

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

144 / 176

Parte III

Extensoes

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

145 / 176


Modelos Lineares Dinamicos
Generalizados

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

146 / 176


Modelos Lineares Dinamicos
Generalizados (MLDG)

sao
nao
normais
Suponha agora que as observacoes
das observacoes
e membro da famlia
A distribuicao

exponencial, onde t e o parametro


natural e t = Vt1 e a
da distribuicao.

precisao
linear com o vetor de estados t
t tem uma relacao
de evolucao
para o vetor de estados e igual ao
A equacao
modelo normal
normal faz parte dessa familia.
A distribuicao

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

147 / 176


Modelos Lineares Dinamicos
Generalizados (MLDG)

O modelo e especificado por:


de Observacao
: p(Yt |t ) = exp t Yt t a(t )
Equacao

b(Yt , Vt )

da Media

Funcao
: t = E(Yt | t ) = a (t )
de Ligacao
: g(t ) = F t t
Funcao
do sistema : t = Gt t1 + t
Equacao
Erro do sistema : t (0, W t )
a priori : 1 (a1 , R1 )
Informacao
No caso da normal, t = t

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

148 / 176

Exemplo 01:
Log-linear Dinamico

Modelo de Regressao

Se Yt Poisson(t ), entao:
p(Yt |t ) exp Yt log(t ) t
=1
t = log t
a(t ) = exp(t ) = t
t = 1t + 2t xt = (1, xt ) t
F t = (1, xt )
t = (1t , 2t ) = t1 + t
t N(0, W),

Migon & Gamerman (UFRJ)

1 N(0, R)

Modelos Dinamicos
Bayesianos

XXVI SBPO

149 / 176

Exemplo 02:
Logstico Dinamico

Modelo de Regressao

Se Yt Binomial(nt , t ), entao:
p(Yt |nt , t ) exp Yt logit(t ) + nt log(1 t )
=1
t = logit(t )
a(t ) = nt log(1 t )
t = 1t + 2t xt = (1, xt ) t
F t = (1, xt )
t = (1t , 2t ) = t1 + t
t N(0, W),

Migon & Gamerman (UFRJ)

1 N(0, R)

Modelos Dinamicos
Bayesianos

XXVI SBPO

150 / 176


Inferencia
em MLDG: Linear Bayes

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

151 / 176


Inferencia
em MLDG: Linear Bayes
Re-lembrando:

p(Yt | t ) t = F t t ;
t = Gt t1 + t ,

t (0, W t )

( t |Dt1 ) (at , Rt )
Seja ( t1 |Dt1 ) (mt1 , Ct1 ). Entao
onde at = Gt mt1 e Rt = Gt Ct1 Gt + W t
Priori para t : (t |Dt1 ) (ft , qt ).
Se a priori de t e conjugada, tem-se que priori e posteriori
pertencem a` mesma famlia, logo (t |Dt ) (ft , qt ).
Estrutura Condicional de ( t |t , Dt1 ):

t
t

ft
qt

,
t1
at
Rt F t

Linear Bayes

F t Rt
Rt

E( t |t , Dt1 ) = at + Rt F t (t ft )/qt
Var( t |t , Dt1 ) = Rt Rt F t F t Rt /qt

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

152 / 176

para t .
Atualizacao
p( t |Dt ) =

p( t |t , Dt1 ) p(t |Dt ) dt

e conhecida conjugacao
nao

que:
Temos entao
t (mt , Ct )
mt = E[ t |Dt ]
= E E{ t |t , Dt1 }|Dt
= at + Rt F t (ft ft )/qt
Ct = V[ t |Dt ]
= V E{ t |t , Dt1 }|Dt + E V{ t |t , Dt1 }|Dt
= Rt Rt F t F t Rt (1 qt /qt )/qt
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

153 / 176

MLDG Poisson-Gama de 2o ordem


Aplicacao:

Objetivo: Analise
temporal do numero
mensal de crimes

violentos, ocorridos entre janeiro de 1998 e agosto de 2001


de Belo Horizonte.
numa regiao
Modelo:
(Yt |t ) Poisson(t ), t = 1, . . . , 45;
log t = 1 0
t
t

1 1
0 1

t
t

(1a)
(1b)

= t

t1
t1

w1t
w2t

(1c)

0 N(m10 , C10 )
0 N(m20 , C20 )
wt (0, W) W especificado via descontos ( = 0.98)
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

154 / 176

Rotina em Ox
# include <oxstd.h> main() {
// Dados e Vari
aveis
decl data = loadmat("cia6.dat"); decl nobs = (rows(data)+1);
decl Ft = <1; 0>; decl Gt = <1, 1; 0, 1>; decl delta = 0.99;
...
// Informac

ao inicial
mt[0] = <4.30; 0.00>; Ct[0] = <0.10, 0.00; 0.00, 0.01>;
// Linear Bayes
for(i=1; i<(nobs); i++){
at[i] = Gt*mt[i-1];
Rt[i] = (Gt*Ct[i-1]*Gt)*(1/delta);
ft[i] = Ft*at[i];
qt[i] = Ft*Rt[i]*Ft;
rt[i] = 1/qt[i];
st[i] = 1/(qt[i]*exp(ft[i]));
rs[i] = rt[i] + y[i];
ss[i] = st[i] + 1;
fs[i] = log(rs[i]) - log(ss[i]);
qs[i] = 1/(rs[i]);
mt[i] = at[i] + Rt[i]*Ft*(fs[i]-ft[i])*(1/qt[i]);
Ct[i] = Rt[i] - (Rt[i]*Ft*Ft*Rt[i])*(1-(qs[i]/qt[i]))*(1/qt[i]);
}... }
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

155 / 176

0.0
0.1

150
50

0.2

100

200

0.1

250

0.2

numero
Aplicacao:
de crimes

1998

1999

2000

2001

1998

(a) t |Dt

1999

2000

2001

(b) t |Dt

Figura: IC 95% para o Nvel e Parametro


de crescimento de (1)
estimado com Linear Bayes
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

156 / 176


Inferencia
em MLDG: MCMC

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

157 / 176

Monte Carlo (MC)

Metodos
Monte Carlo (MC): metodos
de inferencia
baseados

em simulacao.
eficiente de metodos

MC possibilita a implementacao
de
com modelos complexos como MLD e MLDG.
simulacao

Necessario
se queremos estimar W ou elementos
desconhecidos de F e G.
a
Podemos usar MC para gerar valores da distribuicao

posteriori dos parametros


dos MLD e MLDG.
se consegue gerar diretamente da
Em MLD e MLDG nao
posteriori
MCMC.
Solucao:

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

158 / 176

Monte Carlo via cadeia de Markov (MCMC)


Um algoritmo Monte Carlo via cadeia de Markov (MCMC) para
e qualquer metodo

simular de uma distribuicao


que produza uma

cadeia de Markov homogenea,


ergodica
e irredutvel cuja
estacionaria

distribuicao
seja . (Uma cadeia e ergodica
se ela e

aperiodica
e recorrente positiva)

geradas de uma cadeia de


MCMC: amostras dependentes sao
de equilbrio e a distribuicao
de interesse.
Markov cuja distribuicao
muito correlacionadas; (2)
Aviso: (1) amostras do MCMC geralmente sao

estimativas de amostras correlacionadas tendem a ter variancias


maiores
do que amostras independentes.

Algumas questoes:
qual o tamanho do burn-in? as cadeias estao

passeando por todo o espaco parametrico?


quantas iteracoes?
Exemplos de MCMC:
Amostrador de Gibbs
Metropolis Hasting
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

159 / 176

Amostrador de Gibbs
Para obter uma amostra de p(1 , 2 ) passeamos

aleatoriamente pelo espaco parametrico


de acordo com a

seguinte regra de transicao:


produz um movimento numa direcao
somente,
Cada iteracao
simulando de p(1 |2 ) e p(2 |1 ).

Depois do perodo de burn-in (quando se perde a influencia


do

ponto inicial, atingindo a convergencia)


comecamos a ter uma
amostra de p(1 , 2 )

se generaliza para com mais de 2 componentes


A ideia
gerando das condicionais completas p(i |i )
Metropolis Hasting

em
Tecnica
que produz uma cadeia com regra de transicao
duas etapas:
propostos de uma regra de transicao

Movimentos sao

arbitraria

Etapa de aceitacao

Para MLD usamos Gibbs. Para MDLG usamos Metropolis.


Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

160 / 176

propostas
Sobre as regras de transicao

Principais diferencas:
propostas,
Escolha das regras de transicao

Forma de acelerar a convergencia

do vetor de estados:
Atualizacao
t a cada passo (Single move),
t a cada passo (Multi move),
(r , s ) a cada passo (Block move).

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

161 / 176


Aplicacao

Objetivo: Analise
temporal do numero
mensal de crimes

violentos, ocorridos entre janeiro de 1998 e agosto de 2001


de Belo Horizonte.
numa regiao
Modelo:
Yt |t Poisson(t )
log t = 1 0
t
t

1 1
0 1

t
t

(2a)
(2b)

= t

t1
t1

w1
;
w2

w1
w2

0
W1 0
,
0
0 W2

0 N(m10 , C10 )
0
1
W1
W21

N(m20 , C20 )
Gama(0.01, 0.01)
Gama(0.01, 0.01)

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

162 / 176

Rotina em WinBUGS
model "modelo din
amico poisson de 2-ordem";
{
# Equac

oes do modelo
for(t in 2:46)
{
beta[t] dnorm(beta[t-1],iw2);
mean.mu[t] <- mu[t-1]+beta[t-1];
mu[t] dnorm(mean.mu[t],iw1);
log(lambda[t]) <- mu[t]
y[t] dpois(lambda[t])
y.rep[t] dpois(lambda[t])I(0,10000)
}
# Informac

ao inicial
mu[1] dnorm(a[1], iR10)
beta[1] dnorm(a[2], iR20)
# Distribuic

ao a priori
iw1 dgamma(0.01,0.01)
iw2 dgamma(0.01,0.01)
w1 <- 1/iw1;
w2 <- 1/iw2;
# Hiperpar
ametros
a[1] <- 4.5; a[2] <- 0.2;
iR10 <- 2.0; iR20 <- 1;
}
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

163 / 176

0.1
0.0
0.1

150
50

0.2

100

200

0.2

250

numero
Aplicacao:
de crimes

1998

1999

2000

2001

1998

(a) t |Y

1999

2000

2001

(b) t |Y

Figura: IC 95% para o Nvel e Parametro


de crescimento de (2)
estimado com MCMC
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

164 / 176

10

50

20

30

100

40

150

50

60

200

70

numero
Aplicacao:
de crimes (cont.)

0.00

0.01

0.02

0.03

0.04

0.05

0.000

W1

0.010

0.020
W2

(a) W1 |Y

(b) W2 |Y

a posteriori de W1 e W2 de (2)
Figura: Amostras das distribuicoes

obtidas com MCMC (A linha pontilhada indica a media


a posteriori)
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

165 / 176

Lineares Dinamicos

Modelos Nao
Generalizados

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

166 / 176

Lineares Dinamicos

Modelos Nao
Generalizado
(MNLDG)

Seja Yt uma serie


temporal observada de t = 1 a t = T.
linear dinamico

O modelo nao
generalizado e dado por:
:
Eq. de Observacao
Eq. do Sistema :

yt = ft (t ) + vt

(3a)

t = gt (t1 ) + wt

(3b)

funcoes
conhecidas
onde ft () e gt () sao
de Transferencia

Exemplo: Modelo de Funcao


Yt = + Et + t ,

t N(0, V)

(4a)

Et = Et1 + Xt

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

(4b)

XXVI SBPO

167 / 176

dados de chuva e vazao

Aplicacao:

3.0
Vazao
Chuva*0,01

2.5
2.0
1.5
1.0
0.5
0.0
1946.8

1947.4

1948.0

1948.6

e Precipitacao
de Outubro de 1946 a Setembro de 1948
Figura: Vazao
na Bacia do Riberao Pinheirinho - SP

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

168 / 176

3.5 3.0 2.5 2.0 1.5 1.0 0.5

(a) |Y

0.0

200

0.4

400

0.8

600

1.2

800

10

dados de chuva e vazao


(cont.)
Aplicacao:

0.60

0.70

0.80

0.90

(b) |Y

0.006

0.007

0.008

0.009

0.010

(c) |Y

a posteriori de , e de (2) obtidas


Figura: Amostras das distribuicoes

com MCMC (A linha pontilhada indica a media


a posteriori

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

169 / 176

dados de chuva e vazao


(cont.)
Aplicacao:

+
+

+
Observada
Estimada
IC 95%

+
2

+
+

+ +

+
+

+ +
+ +

+ + +
+ +

Nov 46

Mar 47

Jul 47

Nov 47

Mar 48

Jul 48

Observada e IC 95 % para a vazao


estimada com o
Figura: Vazao
modelo (4)
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

170 / 176


Modelos Dinamicos
Generalizados (MDG)

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

171 / 176


Modelos Dinamicos
Generalizado (MDG)

Seja Yt uma serie


temporal observada de t = 1 a t = T.

O modelo dinamico
generalizado e dado por:

:
Eq. das Observacoes
Eq. do Sistema :

yt = ft (t , t , V)

(5a)

t = gt (t1 , t , W)

(5b)

onde
funcoes
conhecidas;
ft () e gt () sao
os erros observacional e do sistema nao

t e t sao
correlacionados e mutuamente independentes, com

variancias
V e W, respectivamente.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

172 / 176


Inferencia
em MDG: MC sequencial

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

173 / 176

Monte Carlo sequencial

chegam de forma sequencial


Algumas vezes as observacoes
no

de inferencias

tempo e pode-se estar interessado na obtencao


on

das distribuicoes
tao
logo os
line, sendo necessaria
a atualizacao
dados se tornarem disponveis.

Quando a variavel
de interesse e modelada por um sistema

dinamico
gaussiano e linear e possvel acessar de forma analtica a
reais,
sequencia
de posterioris. Entretanto, em diversas situacoes

se adequam aos dados. Nesses


normalidade e linearidade nao

casos, pode-se usar MCMC mas a analise


deixa de ser sequencial.

Metodos
de Monte Carlo Sequenciais
aparecem como uma

para o problema de determinacao


de distribuicoes
a
solucao

posteriori. Tais metodos


proliferaram nos ultimos
anos e suas

se tornaram cada vez mais acessveis devido a` melhora


aplicacoes

na capacidade computacional disponvel. Dentre esses metodos


os filtros de partculas.
estao
Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

174 / 176

MC sequencial:
filtro de partculas

estrategias

que
Os filtros de partculas sao
de simulacao
a posteriori de t , p(t |Dt ), por partculas
aproximam a distribuicao
(1)
(M )
t , . . . , t t com respectivas probabilidades discretas
(j)
(j)
(1)
(M )
t
wt , . . . , wt t . Em outras palavras, o conjunto {t , wt }M
j=1
aproxima p(t |Dt ).
de evolucao,
previsao
e atualizacao
sao

Todas as operacoes
` partculas utilizando tecnicas

realizadas por MC e aplicadas as


como Sampling Importance Resampling (SIR).
Cuidados especiais devem ser tomados para dar conta das
das partculas.
mudancas observadas para evitar degeneracao

Alguns filtros incluem inferencia


para os hiperparametros.

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

175 / 176

Muito obrigado!
migon@im.ufrj.br
dme.ufrj.br/hsmigon

dani@im.ufrj.br
acd.ufrj.br/dani

romy@dme.ufrj.br
dme.ufrj.br/romy

Migon & Gamerman (UFRJ)

Modelos Dinamicos
Bayesianos

XXVI SBPO

176 / 176

You might also like