Aula 16 Sistemas Lineares Ótimos

Sistemas Lineares Otimos
Processos Estocasticos

Bruno Barbosa Albert
Universidade Federal de Campina Grande
Centro de Engenharia El
etrica e Inform
atica
Departamento de Engenharia El
etrica
19 de novembro de 2010
Processos Estoc
asticos

Sumario
Processos Estoc
asticos

Introducao
Vamos desenvolver algumas tecnicas para o processamento de

sinais aleat
orios.
Processos Estoc
asticos

Introducao

sinais aleat
orios.
A teoria esta baseada no princpio da ortogonalidade.
Processos Estoc
asticos

Introducao

sinais aleat
orios.
Os sistemas discretos no tempo foi estudado por Kolmogorov
nos anos 1930.
Processos Estoc
asticos

Introducao

sinais aleat
orios.
Os sistemas discretos no tempo foi estudado por Kolmogorov
nos anos 1930.
No contexto de PE contnuos no tempo o estudo foi realizado
por Wiener nos anos 1940.
Processos Estoc
asticos

Problema Geral
Considere um experimento cujas medicoes sao funcoes do

tempo.
Processos Estoc
asticos

Problema Geral

tempo.
Seja I o intervalo de tempo no qual as medicoes sao
realizadas.
Processos Estoc
asticos

Problema Geral

tempo.
realizadas.
Temos entao uma colecao de medicoes {X (s), s I }.
Processos Estoc
asticos

Problema Geral

tempo.
realizadas.
Estamos interessados em estimar os valores de um outro PE
Y (t) para t I , dada as medicoes do PE X (t).
Processos Estoc
asticos

Problema Geral

tempo.
realizadas.
Em geral X (t) 6= Y (t) e I 6= I .
Processos Estoc
asticos

Problema Geral

tempo.
realizadas.
Estimadores nao lineares sao difceis de tratar, mesmo para o
caso de uma u
nica v.a..
Processos Estoc
asticos

Problema Geral

tempo.
realizadas.
Estimadores nao lineares sao difceis de tratar, mesmo para o
caso de uma u
nica v.a..
Portanto, o nosso foco sao os estimadores lineares otimos.
Processos Estoc
asticos

Estimacao Linear Otima

Redefinindo nosso problema para o caso de estimacao linear
otima de PEs, temos
Processos Estoc
asticos


otima de PEs, temos
Problema de estimacao linear
otima
Dado um conjunto de medicoes {X (s), s I }, derive o melhor
estimador linear de {Y (t), t I }.
Processos Estoc
asticos


otima de PEs, temos
otima
Por exemplo, para um processo Xn discreto no tempo e com
media zero,
Processos Estoc
asticos


otima de PEs, temos
otima
media zero,
observamos Xn no intervalo de tempo I = {n a, . . . , n + b}
Processos Estoc
asticos


otima de PEs, temos
otima
media zero,
Usamos as a + b + 1 medicoes {Xna , . . . , Xn , . . . , Xn+b } para
obter uma estimacao de Yn .
Processos Estoc
asticos


otima de PEs, temos
otima
media zero,
Usamos as a + b + 1 medicoes {Xna , . . . , Xn , . . . , Xn+b } para
obter uma estimacao de Yn .
Do estimador ser linear temos que
Yn =
n+b
X
hnk Xk
k=na
Processos Estoc
asticos

Figura de Merito
Certamente, devemos especificar o criterio para decidir o
melhor estimador.
Processos Estoc
asticos

Figura de Merito
melhor estimador.
Considere Y (t) o estimador de Y (t).
Processos Estoc
asticos

Figura de Merito
melhor estimador.
Seja
e(t) = Y (t) Y (t)
t I
o erro de estimacao.
Processos Estoc
asticos

Figura de Merito
melhor estimador.
Seja
e(t) = Y (t) Y (t)
t I
o erro de estimacao.
Baseado nas consideracoes para estimacao de uma v.a.
(Secao 6.5.2) usaremos como criterio de otimizacao o erro
quadratico medio,
E [e 2 (t)] = E [(Y (t) Y (t))2 ].
Processos Estoc
asticos

Estimador Linear Otimo

Estamos supondo aqui que os PEs X (t) e Y (t) sao
conjuntamente WSS, com medias zero e autocorrelacoes
conhecidas RX ( ) e RY ( ), bem como as correlacoes cruzadas
RXY ( ) e RYX ( ).
Processos Estoc
asticos


RXY ( ) e RYX ( ).
A forma mais geral para um estimador linear para um conjunto
discreto de medicoes e uma soma ponderada de medicoes
X
Y (t) =
h(t s)X (s) t I
sI
Processos Estoc
asticos


RXY ( ) e RYX ( ).
X
Y (t) =
h(t s)X (s) t I
sI
E para um conjunto contnuo de medicoes

Z
Y (t) = h(t s)X (s) ds t I

I
Processos Estoc
asticos


RXY ( ) e RYX ( ).
X
Y (t) =
h(t s)X (s) t I
sI
E para um conjunto contnuo de medicoes

Z
Y (t) = h(t s)X (s) ds t I

I
Certamente essa igualdades sao verdadeiras no sentido da

media quadratica.
Processos Estoc
asticos


Determinamos o melhor estimador para 3 casos:
Processos Estoc
asticos


Filtragem (causal)
Nesse caso as medicoes passadas e presente de X (s) sao usadas
para estimar o valor presente de Y (t). Ou seja, I = (, t] ou
I = [a, t] e I = {t}.
Processos Estoc
asticos


Filtragem (causal)
Nesse caso as medicoes passadas e presente de X (s) sao usadas
para estimar o valor presente de Y (t). Ou seja, I = (, t] ou
I = [a, t] e I = {t}.
Predicao
Nesse caso as medicoes passadas de X (s) sao usadas para estimar
um valor futuro da v.a. Y (t). Em geral Y (t) = X (t), ou seja,
estamos usando medicoes passadas para predizer o proprio
processo. Assim, I = (, t] e I = t , t > t ou
I = {t, t + 1, . . . , t 1} e I = t .
Processos Estoc
asticos

Suavizacao
Nesse caso as medicoes passadas, presente e futuras de X (s) sao
usadas para estimar um valor de Y (t). Ou seja, I = (, ) e
I = {t} ou I = (, t ] e I = {t}, t > t.
Processos Estoc
asticos

Suavizacao
Nesse caso as medicoes passadas, presente e futuras de X (s) sao
usadas para estimar um valor de Y (t). Ou seja, I = (, ) e
I = {t} ou I = (, t ] e I = {t}, t > t.
A realizacao completa das medicoes de X (s) foi gravada.
Processos Estoc
asticos

Princpio da Ortogonalidade
O erro e(t) e cada medicao individual sao ortogonais, ou seja,
ReX (t, s) = E [e(t)X (s)] = 0,
t I ,
Processos Estoc
asticos
s I

ReX (t, s) = E [e(t)X (s)] = 0,
t I ,
s I
Isso pode produzir um n

umero infinito de equacoes, uma para
cada par (t, s).
Processos Estoc
asticos

ReX (t, s) = E [e(t)X (s)] = 0,
t I ,
s I

cada par (t, s).
A partir da equacao da ortogonalidade
E [e(t)X (s)] = E [(Y (t) Y (t))X (s)]
= E [Y (t)X (s)] E [Y (t)X (s)] = 0.
Processos Estoc
asticos

ReX (t, s) = E [e(t)X (s)] = 0,
t I ,
s I

cada par (t, s).
A partir da equacao da ortogonalidade
E [e(t)X (s)] = E [(Y (t) Y (t))X (s)]
= E [Y (t)X (s)] E [Y (t)X (s)] = 0.
e portanto,
E [Y (t)X (s)] = E [Y (t)X (s)],
t I ,
s I .
Essa equacao e a base para o desenvolvimento dos melhores

estimadores.
Processos Estoc
asticos

Filtragem causal
Problema:
Considere um conjunto de medicoes {X (s), s I } em que
I = (, t]. Para qualquer valor de t desejamos obter a
melhor estimativa linear da v.a. Y (t), baseada no conjunto de
medicoes.
Processos Estoc
asticos

Filtragem causal
Teorema: (caso contnuo)
Considere que os PEs X (t) e Y (t) sao conjuntamente WSS, com
medias zero e
Z t
h(t s)X (s) ds

Y (t) =
uma estimativa de Y (t). O melhor filtro linear causal h(s) e dado

pela solucao da equacao
Z
RXY ( ) =
h( s)RX (s) ds.
O erro quadratico medio mnimo e igual a

Z t
h(t s)RYX (t s) ds
emin = RY (0) =
Processos Estoc
asticos

Filtragem causal
Teorema no domnio da frequencia: (caso contnuo)

Considere que os PEs X (t) e Y (t) sao conjuntamente WSS, com
medias zero. O melhor filtro linear causal H(f ) para estimacao de
Y (t) dado o conjunto de medicoes {X (s), s I } e dado por
H(f ) =
em que
SYX
(f )
(f )
SYX
SX (f )
RYX ( )e j2f d.
0
(f ) 6= S
Observe que SYX
ao e de a .
YX (f ) pois a integral n
Processos Estoc
asticos

Predicao
Problema:
Considere um conjunto n de medicoes {X (s), s I } em que
I = {t n, t n + 1, . . . , t 1}. Para qualquer valor de t
desejamos obter a melhor estimativa linear da v.a. Y (t), baseada
no conjunto de medicoes. Ou seja, deseja-se predizer valores
futuros de X (t), portanto Y (t) = X (t).
Processos Estoc
asticos

Predicao
Teorema:
Considere que o PE X (t) seja WSS, com media zero e
X
h(t s)X (s)
X (t) =
sI
um estimador preditor de X (t). O melhor preditor h(s) satisfaz a

equacao
X
h(s)RX ( s), {1, . . . , n}
(1)
RX ( ) =
sI
o erro quadratico medio mnimo e igual a

X
emin = RX (0)
h(s)RX (s).
sI
Processos Estoc
asticos

Predicao
A partir da equacao (1) do teorema anterior ve-se que os

coeficientes do preditor
otimo podem ser obtidos resolvendo
um sistema de n equacoes e n ic
ognitas h(1), h(2), . . . , h(n).
Processos Estoc
asticos

Predicao
A partir da equacao (1) do teorema anterior ve-se que os

coeficientes do preditor
otimo podem ser obtidos resolvendo
um sistema de n equacoes e n ic
ognitas h(1), h(2), . . . , h(n).
Reescrevendo a equacao (1) na forma matricial
RX (1)
h(1)
RX (0)
RX (1)
. . . RX (n 1)
RX (1)
RX (0)
. . . RX (n 2)
h(2) RX (2)
.. = ..
..
..
..
..
. .
.
.
.
.
RX (n)
h(n)
RX (n 1) RX (n 2) . . .
RX (0)
obtemos as equacoes de Yule-Walker.
Processos Estoc
asticos

Predicao
Esse sistema nao e facilmente resolvido pelos metodos

tradicionais para n grande.
Processos Estoc
asticos

Predicao
Esse sistema nao e facilmente resolvido pelos metodos

tradicionais para n grande.
No entanto, aproveitando a estrutura peculiar da matriz
podemos usar metodos recursivos como o algoritmo de
Levinson para avaliar os coeficientes do filtro preditor otimo.
Processos Estoc
asticos

Suavizacao
Problema:
Considere o conjunto de medicoes {X (s), s I } em que
I = (, ) ou I = (, T ) e T > t. Desejamos obter a
melhor estimativa linear da v.a. Y (t) = X (t) para t I .
Processos Estoc
asticos

Suavizacao
O termo suavizacao se origina das aplicacoes nas quais

medidas futuras sao processadas para remover rudos de alta
frequencia e portanto suavizar m sinal de baixa frequencia.
Processos Estoc
asticos

Suavizacao
O termo suavizacao se origina das aplicacoes nas quais

medidas futuras sao processadas para remover rudos de alta
frequencia e portanto suavizar m sinal de baixa frequencia.
Eventualmente o termo suavizacao off-line e tambem usado
para destacar que as medicoes sao armazenadas primeiro e
depois processadas off-line.
Processos Estoc
asticos

Suavizacao
Considere o estimador de suavizacao para I = (, ) no caso

de um conjunto discreto de medicoes
Y (t) =
h(t s)X (s)
s=
ou no caso de um conjunto contnuo de medicoes

Z
h(t s)X (s) ds

Y (t) =
Processos Estoc
asticos

Suavizacao
Teorema:
Seja X (t) WSS com media zero. O filtro de suavizacao otimo
H(f ) para a v.a. Y (t) = X (t) dado o conjunto de medicoes
{X (s), s I } e dado por
H(f ) =
SX Y (f )
.
SX (f )
Processos Estoc
asticos

Aula 16 Sistemas Lineares Ótimos

Uploaded by

Document Information

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

Aula 16 Sistemas Lineares Ótimos

Uploaded by

Copyright:

Available Formats

Sistemas Lineares Otimos

Sistemas Lineares Otimos

Bruno Barbosa Albert

Sistemas Lineares Otimos

Bruno Barbosa Albert

Vamos desenvolver algumas tecnicas para o processamento de

Bruno Barbosa Albert

Vamos desenvolver algumas tecnicas para o processamento de

Bruno Barbosa Albert

Vamos desenvolver algumas tecnicas para o processamento de

Bruno Barbosa Albert

Vamos desenvolver algumas tecnicas para o processamento de

Bruno Barbosa Albert

Considere um experimento cujas medicoes sao funcoes do

Bruno Barbosa Albert

Considere um experimento cujas medicoes sao funcoes do

Bruno Barbosa Albert

Considere um experimento cujas medicoes sao funcoes do

Bruno Barbosa Albert

Considere um experimento cujas medicoes sao funcoes do

Bruno Barbosa Albert

Considere um experimento cujas medicoes sao funcoes do

Bruno Barbosa Albert

Considere um experimento cujas medicoes sao funcoes do

Bruno Barbosa Albert

Considere um experimento cujas medicoes sao funcoes do

Bruno Barbosa Albert

Estimacao Linear Otima

Bruno Barbosa Albert

Estimacao Linear Otima

Bruno Barbosa Albert

Estimacao Linear Otima

Bruno Barbosa Albert

Estimacao Linear Otima

Bruno Barbosa Albert

Estimacao Linear Otima

Bruno Barbosa Albert

Estimacao Linear Otima

Bruno Barbosa Albert

Bruno Barbosa Albert

e(t) = Y (t) Y (t)

Bruno Barbosa Albert

e(t) = Y (t) Y (t)

Bruno Barbosa Albert

Estimador Linear Otimo

Bruno Barbosa Albert

Estimador Linear Otimo

Bruno Barbosa Albert

Estimador Linear Otimo

E para um conjunto contnuo de medicoes

Y (t) = h(t s)X (s) ds t I

Bruno Barbosa Albert

Estimador Linear Otimo

E para um conjunto contnuo de medicoes

Y (t) = h(t s)X (s) ds t I

Certamente essa igualdades sao verdadeiras no sentido da

Estimador Linear Otimo

Bruno Barbosa Albert

Estimador Linear Otimo

Bruno Barbosa Albert

Estimador Linear Otimo

Bruno Barbosa Albert

Estimador Linear Otimo

Bruno Barbosa Albert