Universidade do Estado do Rio de Janeiro

Centro de Tecnologia e Ciências

Faculdade de Engenharia
Programa de Pós-Graduação em Engenharia Eletrônica

Resultados experimentais da filtragem adaptativa

referente à componente zonal do vento para os
anos de 2009 e 2010.

Aluno: Leandro Ferreira Gentile Pinto

Orientadores: Michel Tcheou e Lisandro Lovisolo
1) Gráficos das séries temporais relativas à componente zonal do vento (uvel).
O procedimento realizado nesta etapa se baseia na utilização de coeficientes
otimizados da filtragem adaptativa via algoritmo RLS (Recursive Least Squares) para o
ano de treinamento e sua aplicação no ano de ajuste (por exemplo, os coeficientes
otimizados no ano de 2008 serão aplicados no ano de 2009). Após a aplicação do filtro
com estes coeficientes no ano de ajuste e utilização da IDCT-2D, é possível ilustrar séries
temporais para os 20 níveis de pressão atmosférica, apresentando as séries do modelo Eta
antes e após o ajuste, para analisar se há aproximação com as séries do modelo NCEP.

1.1) Séries temporais da componente zonal do vento para o ano de ajuste de 2009.

Figura 1. Série temporal no nível de pressão 50 hPa (ano de 2009).

Figura 2. Série temporal no nível de pressão 100 hPa (ano de 2009).

Figura 3. Série temporal no nível de pressão 150 hPa (ano de 2009).

Figura 4. Série temporal no nível de pressão 200 hPa (ano de 2009).

Figura 5. Série temporal no nível de pressão 250 hPa (ano de 2009).

Figura 6. Série temporal no nível de pressão 300 hPa (ano de 2009).

Figura 7. Série temporal no nível de pressão 350 hPa (ano de 2009).

Figura 8. Série temporal no nível de pressão 400 hPa (ano de 2009).

Figura 9. Série temporal no nível de pressão 450 hPa (ano de 2009).

Figura 10. Série temporal no nível de pressão 500 hPa (ano de 2009).
Figura 11. Série temporal no nível de pressão 550 hPa (ano de 2009).

Figura 12. Série temporal no nível de pressão 600 hPa (ano de 2009).
Figura 13. Série temporal no nível de pressão 650 hPa (ano de 2009).

Figura 14. Série temporal no nível de pressão 700 hPa (ano de 2009).
Figura 15. Série temporal no nível de pressão 750 hPa (ano de 2009).

Figura 16. Série temporal no nível de pressão 800 hPa (ano de 2009).
Figura 17. Série temporal no nível de pressão 850 hPa (ano de 2009).

Figura 18. Série temporal no nível de pressão 900 hPa (ano de 2009).
Figura 19. Série temporal no nível de pressão 925 hPa (ano de 2009).

Figura 20. Série temporal no nível de pressão 1000 hPa (ano de 2009).
1.2) Séries temporais da componente zonal do vento para o ano de ajuste de 2010.

Figura 21. Série temporal no nível de pressão 50 hPa (ano de 2010).

Figura 22. Série temporal no nível de pressão 100 hPa (ano de 2010).
Figura 23. Série temporal no nível de pressão 150 hPa (ano de 2010).

Figura 24. Série temporal no nível de pressão 200 hPa (ano de 2010).
Figura 25. Série temporal no nível de pressão 250 hPa (ano de 2010).

Figura 26. Série temporal no nível de pressão 300 hPa (ano de 2010).
Figura 27. Série temporal no nível de pressão 350 hPa (ano de 2010).

Figura 28. Série temporal no nível de pressão 400 hPa (ano de 2010).
Figura 29. Série temporal no nível de pressão 450 hPa (ano de 2010).

Figura 30. Série temporal no nível de pressão 500 hPa (ano de 2010).
Figura 31. Série temporal no nível de pressão 550 hPa (ano de 2010).

Figura 32. Série temporal no nível de pressão 600 hPa (ano de 2010).
Figura 33. Série temporal no nível de pressão 650 hPa (ano de 2010).

Figura 34. Série temporal no nível de pressão 700 hPa (ano de 2010).
Figura 35. Série temporal no nível de pressão 750 hPa (ano de 2010).

Figura 36. Série temporal no nível de pressão 800 hPa (ano de 2010).
Figura 37. Série temporal no nível de pressão 850 hPa (ano de 2010).

Figura 38. Série temporal no nível de pressão 900 hPa (ano de 2010).
Figura 39. Série temporal no nível de pressão 925 hPa (ano de 2010).

Figura 40. Série temporal no nível de pressão 1000 hPa (ano de 2010).
2) Histograma do erro quadrático médio (MSE) relacionados aos anos de ajuste
(2009 e 2010).

O objetivo desta seção é apresentar o comportamento dos histogramas do erro

quadrático médio das séries temporais antes e após ao ano de ajuste e, portanto, verificar
se há a redução de erros das séries do modelo Eta ajustadas em comparação com as séries
do modelo NCEP.

2.1) Histogramas do MSE para o ano de ajuste de 2009 da componente zonal do

vento (uvel).

(a) (b)

(c) (d)
Figura 41. Histogramas do MSE das séries temporais antes (azul) e após (vermelho) o
ajuste do ano de 2009, para os seguintes níveis de pressão: (a) 50 hPa; (b) 100
hPa; (c) 150 hPa e (d) 200 hPa.
 (a) (b)

(c) (d)

(e) (f)
Figura 42. Histogramas do MSE das séries temporais antes (azul) e após (vermelho) o
ajuste do ano de 2009, para os seguintes níveis de pressão: (a) 250 hPa; (b) 300
hPa; (c) 350 hPa; (d) 400 hPa; (e) 450 hPa e (f) 500 hPa.
 (a) (b)

(c) (d)

(e) (f)
Figura 43. Histogramas do MSE das séries temporais antes (azul) e após (vermelho) o
ajuste do ano de 2009, para os seguintes níveis de pressão: (a) 550 hPa; (b) 600
hPa; (c) 650 hPa; (d) 700 hPa; (e) 750 hPa e (f) 800 hPa.
 (a) (b)

(c) (d)
Figura 44. Histogramas do MSE das séries temporais antes (azul) e após (vermelho) o
ajuste do ano de 2009, para os seguintes níveis de pressão: (a) 850 hPa; (b) 900
hPa; (c) 925 hPa e (d) 1000 hPa.
2.2) Histogramas do MSE para o ano de ajuste de 2010 da componente zonal do
vento (uvel).

(a) (b)

(c) (d)
Figura 45. Histogramas do MSE das séries temporais antes (azul) e após (vermelho) o
ajuste do ano de 2010, para os seguintes níveis de pressão: (a) 50 hPa; (b) 100
hPa; (c) 150 hPa e (d) 200 hPa.
 (a) (b)

(c) (d)

(e) (f)
Figura 46. Histogramas do MSE das séries temporais antes (azul) e após (vermelho) o
ajuste do ano de 2010, para os seguintes níveis de pressão: (a) 250 hPa; (b) 300
hPa; (c) 350 hPa; (d) 400 hPa; (e) 450 hPa e (f) 500 hPa.
 (a) (b)

(c) (d)

(e) (f)
Figura 47. Histogramas do MSE das séries temporais antes (azul) e após (vermelho) o
ajuste do ano de 2010, para os seguintes níveis de pressão: (a) 550 hPa; (b) 600
hPa; (c) 650 hPa; (d) 700 hPa; (e) 750 hPa e (f) 800 hPa.
 (a) (b)

(c) (d)
Figura 48. Histogramas do MSE das séries temporais antes (azul) e após (vermelho) o
ajuste do ano de 2010, para os seguintes níveis de pressão: (a) 850 hPa; (b) 900
hPa; (c) 925 hPa e (d) 1000 hPa.
3) Métricas de desempenho para redução de erros de previsão numérica climática
entre as séries temporais do modelo Eta e modelo NCEP.
Esta seção tem por objetivo analisar as séries temporais do modelo Eta e NCEP
para verificar se ocorre reduções de erros do modelo Eta em relação ao modelo NCEP.
Além de analisar o erro quadrático médio (MSE), também são analisados o erro máximo
(Emáx), o erro máximo normalizado (Emáxn) e a taxa de efetividade (Tef).

3.1) Erro quadrático médio (MSE)

A partir do ajuste das séries temporais do modelo Eta é definido o MSE entre as
séries do modelo NCEP e as séries ajustadas do modelo Eta, entretanto, para cada nível
de pressão atmosférica há um total de 38.763 séries temporais para o modelo Eta e
também para o modelo NCEP, portanto, é possível calcular 38.763 valores de MSE em
cada nível de pressão atmosférica.
O objetivo desta seção é apresentar a média do total dos valores de MSE para cada
nível de pressão atmosférica, referentes aos anos de ajuste de 2009 e 2010 para a
componente zonal do vento (uvel) e, assim, averiguar se ocorre reduções significativas
do erro de previsão numérica climática entre os modelos Eta e NCEP.
O cálculo da média dos valores do MSE (MSEm) é efetuado por:

∑n 2
i=1 E[e(i) ]
MSEm = , (1)
n

onde e(i) = d(i) – y(i), d(i) é a série temporal do modelo NCEP e y(i) é a série temporal
do modelo Eta, com i = 1, ..., n, sendo n o número total de séries temporais, neste caso,
n = 38.763.
Através da equação (1) é possível calcular os valores de MSEm antes e após o
ajuste das séries temporais do modelo Eta. A partir destes valores, pode-se analisar se há
redução dos valores de MSEm após o ajuste das séries temporais do modelo Eta. O
cálculo da porcentagem de redução do MSEm é expresso por:

MSEm𝑎𝑝
MSEmp = (1 − ) . 100, (2)
MSEm𝑎𝑛

onde MSEmp é a porcentagem de redução da média do erro quadrático médio, MSEmap é

a média dos valores de MSE após o ajuste das séries temporais do modelo Eta e MSEman
é a média dos valores de MSE antes do ajuste das séries temporais do modelo Eta.
Tabela 1. Porcentagens de redução da média do erro quadrático médio (MSEmp) em cada
nível de pressão atmosférica.
MSEmp da componente zonal do vento (uvel) nos anos de 2009 e 2010.
Pressão Ano de ajuste (Séries do Modelo Eta ajustadas)
atmosférica MSEmp 2009 MSEmp 2010
50 hPa 46,95% 60,28%
100 hPa 25,79% 27,07%
150 hPa 3,65% 11,73%
200 hPa 5,05% 20,01%
250 hPa 10,09% 26,61%
300 hPa 13,42% 30,78%
350 hPa 17,40% 32,91%
400 hPa 20,90% 33,64%
450 hPa 22,91% 33,59%
500 hPa 23,55% 32,80%
550 hPa 23,92% 31,98%
600 hPa 22,20% 29,81%
650 hPa 19,28% 27,49%
700 hPa 16,24% 26,20%
750 hPa 14,66% 27,31%
800 hPa 14,13% 29,42%
850 hPa 19,91% 31,58%
900 hPa 22,35% 32,54%
925 hPa 24,96% 32,99%
1000 hPa 23,27% 29,75%

A aplicação da filtragem adaptativa via algoritmo RLS considera os anos de

treinamento de 2008 e 2009. Os coeficientes otimizados foram aplicados,
respectivamente, nos anos de ajuste de 2009 e 2010. Os fatores de ponderação
exponencial (λ) do algoritmo RLS utilizados nos anos de treinamento são descritos a
seguir:
a) Ano de treinamento 2008, λ = 0.98 (utilizado em todos os níveis de pressão
atmosférica).
b) Ano de treinamento 2009, λ = 0.998 (utilizado em todos os níveis de pressão
atmosférica).
 Ano de 2009 Ano de 2010

Redução da média do MSE (%) 100

80

60

40

20

Níveis de pressão atmosférica (hPa)

Figura 49. Redução das médias dos erros de séries temporais dos anos de ajuste para a
componente zonal do vento (uvel).

A Tabela 1 e a Figura 49 indicam que as porcentagens de redução do erro

quadrático médio das séries temporais apresentam valores mais satisfatórios para o
modelo Eta ajustado do ano de 2010 e a pressão atmosférica de 50 hPa (altura mais
afastada do nível do mar) apresenta os melhores percentuais de redução do MSEmp para
os dois anos analisados.
3.2) Erro máximo e erro máximo normalizado para as séries temporais dos anos de
ajuste (2009 e 2010).
O procedimento nesta seção visa calcular o erro máximo (Emáx) e o erro máximo
normalizado (Emáxn) referentes aos valores de MSE após o ajuste das séries temporais
do modelo Eta, nos níveis de pressão atmosférica citados, portanto:

Emáx = max|𝐸[𝑒(𝑛)2 ]| (3)

n

|E[e(n)2 ]|
Emáxn = max (4)
n ‖E[e(n)]‖2

Tabela 2. Erro máximo (Emáx) e erro máximo normalizado (Emáxn) dos níveis de pressão
atmosférica.
Emáx e Emáxn para a componente zonal do vento (uvel)
Pressão Ano de ajuste 2009 Ano de ajuste 2010
atmosférica Emáx Emáxn Emáx Emáxn
50 hPa 123,714 0,0100 179,042 0,0127
100 hPa 258,791 0,0135 176,594 0,0106
150 hPa 702,218 0,0145 983,506 0,0253
200 hPa 934,514 0,0156 1085,049 0,0247
250 hPa 851,345 0,0153 730,828 0,0172
300 hPa 698,834 0,0150 481,109 0,0131
350 hPa 527,227 0,0146 406,700 0,0136
400 hPa 410,964 0,0145 328,011 0,0135
450 hPa 349,975 0,0154 261,567 0,0133
500 hPa 307,707 0,0161 210,297 0,0128
550 hPa 284,205 0,0175 172,671 0,0123
600 hPa 265,282 0,0184 149,110 0,0122
650 hPa 259,297 0,0196 138,544 0,0127
700 hPa 245,527 0,0199 151,053 0,0153
750 hPa 217,783 0,0185 168,575 0,0185
800 hPa 193,286 0,0170 143,015 0,0169
850 hPa 148,837 0,0145 133,493 0,0168
900 hPa 135,623 0,0137 112,395 0,0143
925 hPa 132,336 0,0139 110,626 0,0142
1000 hPa 102,836 0,0167 75,044 0,0146

A Tabela 2 indica que, exceto para os níveis de pressão 50 hPa, 150 hPa e 200
hPa, os valores de Emáx do ano de ajuste de 2010 são menores que os do ano de ajuste
de 2009. Os maiores valores de Emáxn são para os níveis de pressão 150 hPa e 200 hPa
do ano de 2010 e, por coincidência, os maiores valores de Emáx no ano de 2010
pertencem a estes níveis.
3.3) Taxa de efetividade para as séries temporais dos anos de ajuste (2009 e 2010).
O objetivo desta seção é avaliar o desempenho das séries temporais que obtiveram
redução dos valores de MSE, após o ajuste das séries temporais do modelo Eta, em todos
os níveis de pressão atmosférica. A taxa de efetividade (Tef) é expressa por:

Nr
Tef = . 100, (5)
Nt

onde Nr é o número de séries temporais que tiveram redução dos valores de MSE após o
ajuste das séries temporais do modelo Eta e Nt é o número total de séries em cada nível
de pressão atmosférica, portanto, Nt = 38.763.

Tabela 3. Taxa de efetividade (Tef) em todos os níveis de pressão atmosférica.

Tef da componente zonal do vento (uvel) nos anos de 2009 e 2010.
Pressão Ano de ajuste (Séries do Modelo Eta ajustadas)
atmosférica Tef 2009 Tef 2010
50 hPa 55,96% 86,19%
100 hPa 76,21% 77,37%
150 hPa 62,12% 65,55%
200 hPa 59,97% 73,99%
250 hPa 63,31% 83,19%
300 hPa 66,66% 88,55%
350 hPa 68,68% 92,55%
400 hPa 73,54% 94,14%
450 hPa 79,49% 94,17%
500 hPa 81,57% 93,81%
550 hPa 82,63% 92,77%
600 hPa 80,93% 91,67%
650 hPa 78,76% 88,63%
700 hPa 75,60% 85,34%
750 hPa 71,50% 86,27%
800 hPa 66,09% 88,87%
850 hPa 68,74% 86,76%
900 hPa 67,61% 79,26%
925 hPa 64,98% 74,62%
1000 hPa 65,00% 70,04%
 Ano de 2009 Ano de 2010

100

80
Taxa de efetividade (%)

60

40

20

Níveis de pressão atmosférica (hPa)

Figura 50. Taxa de efetividade das séries temporais dos anos de ajuste relacionados à
componente zonal do vento (uvel).

De acordo com a Tabela 3 e a Figura 50, pode-se concluir que a taxa de efetividade
apresenta valores mais satisfatórios para o ano de ajuste de 2010.