Procesos Estocsticos

Simulacin 2001
Profesor: Hctor Allende

Introduccin
Las caractersticas de un fenmeno aleatorio puede ser
descrito a travs de la distribucin de probabilidad de una
variable aleatoria que representa el fenmeno.
En la teora de probabilidad, las propiedades estadsticas
de un fenmeno aleatorio que ocurre de manera aleatoria
respecto al tiempo no son considerados.

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

Introduccin
Ejemplos de fenmenos aleatorios en el tiempo:
Movimiento de una partcula en el movimiento
Browniano
Emisin de fuentes radioactivas
Flujo de corriente en un circuito elctrico.
Comportamiento de una onda en el oceano.
Respuesta de un avin al viento y movimiento de un
barco en el mar.
Vibracin de un edificio causado por un temblor o
terremoto.
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas

Proceso Estocstico
Definicin: Una familia de variables aleatorias x(t) donde t
es el parmetro perteneciente a un conjunto indexado T es
llamado un proceso estocstico (o proceso aleatorio), y se
denota por:
{x(t ), t T }

tambin es definido como:

{x(t , ), t T , }
donde es el espacio muestral.

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

Proceso Estocstico
Observacin:
Si t es fijo, x( ) es una familia de variables aleatorias.
(ensemble).
Para fijo, x(t) es una funcin del tiempo llamada
funcin muestrada.
1

x(t )

x(t )

x(t )

x(t )

x(t )
Profesor Dr. Hctor Allende

t1 Desarrollado por Rodrigo Salas t 2

Proceso Estocstico
Estado
Discreto

D iscreto

T iem po

C ontinuo

Continuo

Estado y tiempo discreto y continuo.

Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas

Funcin de Medias
1. Sea {x(t ), t T } un proceso estocstico, se llama funcin
de medias:

x (t ) : T
t x (t ) E[ xt ]

Obs: x (t ) E[ x(t )] cte t T se dice que es un

proceso estocstico estable en media.

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

Funcin de Varianzas
2. Sea {x(t ), t T } un proceso estocstico, se llama funcin
de varianzas:

x2 (t ) : T

t x2 (t ) V [ xt ] E{( xt E[ xt ]2 }
2
Obs: x (t ) cte t T se dice que es un proceso
estocstico estable en varianza.

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

Funcin de Autocovarianzas
3. Sea {x(t ), t T } un proceso estocstico, se llama funcin
de varianzas:

C xx (t ) : T T
(t1 , t 2 ) C xx (t1, t 2 ) Cov[ xt , xt 2 ]
1

E{( xt1 x (t1 ))( xt 2 x (t 2 ))}

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

Funcin de Autocovarianza
La funcin de Autocovarianza C xx (t1 , t 2 ) de un proceso
estocstico viene dado por:
C xx (t1 , t 2 ) Cov[ x(t1 ), x(t 2 )]
E[( x(t1 ) E[ x(t1 )])( x(t 2 ) E[ x(t 2 )])]
1 n k
{ x(t1 ) x(t1 )}{k x(t 2 ) x(t 2 )}
n k 1

donde

1 n k
x(ti ) E[ x(ti )] x(ti )
n k 1

i 1,2

Si est en funcin de las diferencias de tiempo:

R( ) Cov[ x(t ), x(t )]
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas

10

Funcin de Autocorrelacin
3. Sea {x(t ), t T } un proceso estocstico, se llama funcin
de varianzas:

x (t ) : T T
(t1 , t 2 ) x (t1, t 2 )

Cov[ xt , xt 2 ]
1

(t1 ) (t 2 )

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

11

Distribucin conjunta finito

dimensional
Sea (, , P) un espacio de probabilidad y un conjunto de
ndices T, y X : T un proceso estocstico.
El sistema:
FX {FX (t1 ),..., X (t n ) : t1 ,...., t n T , n }

es una Distribucin conjunta finito dimensional

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

12

Proceso estocstico de 2 orden

Sea X un proceso estocstico, se dice de 2 orden ssi
E[ x 2 (t )] t T
o sea
2 (t ) 2 12 t T

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

13

1.- Proceso Estacionario

OBS: Las caractersticas de un proceso aleatorio son
evaluados basados en el ensemble.
a) Proceso Estocstico Estacionario Estricto:
Si la distribucin conjunta de un vector aleatorio n1
2
n
{
x
(
t
),
x
(
t
),....,
x(t )}
dimensional,
y {1 x (t ), 2 x(t ),...., n x(t )}
es la misma para todo , entonces el proceso
estocstico x(t) se dice que es un proceso estocstico
estacionario (o estado estacionario).
Es decir, las propiedades estadsticas del proceso se
mantienen invariante bajo la traslacin en el tiempo.
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas

14

1.- Proceso Estacionario

b) Proceso Estocstico Evolucionario:
Es aquel proceso estocstico que no es estacionario.
c) Proceso Estocstico Dbilmente Estacionario:
Un proceso estocstico se dice dbilmente estacionario
(o estacionario en covarianza) si su funcin de valor
medio E[x(t)] es constante independiente de t y su
funcin de autocovarianza Cov[x(t),x(t+)] depende de
para todo t.

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

15

2.- Proceso Ergdico

Un proceso estocstico x(t) se dice que es un proceso
ergdico si el tiempo promedio de un simple registro es
aproximadamente igual al promedio de ensemble. Esto es:
1 n
n x(ti ) para un proceso de tiempo discreto.
i 1

E[ x(t )]

T
1

x(t )dt para un proceso de tiempo continuo.

T
0

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

16

2.- Proceso Ergdico

Obs:
En general, las propiedades ergdicas de un proceso
estocstico se asume verdadera en el anlisis de los
datos observados en ingeniera, y por lo tanto las
propiedades estadsticas de un proceso aleatorio puede
ser evaluado a partir del anlisis de un nico registro.

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

17

3.- Proceso de Incrementos

Independientes
Un proceso estocstico x(t) se dice que es un proceso de
incrementos independientes si x(ti 1 ) x(ti ) , i=0,1,, es
es estadsticamente independiente (Por lo tanto,
estadsticamente no correlacionado).
Sea el proceso estocstico x(t) un proceso estacionario de
incrementos independientes. Entonces, la varianza de los
incrementos independientes x(t 2 ) x(t1 ) , donde t1 t 2
,es proporcional a t 2 t1

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

18

4.- Proceso de Markov

Un proceso estocstico x(t) se dice que es un proceso de
Markov si satisface la siguiente probabilidad condicional:
P{x(t n ) xn | x(t1 ) x1 , x(t 2 ) x2 ,..., x(t n 1 ) xn 1}
P{x(t n ) xn | x(t n 1 ) xn 1},

donde t1 t 2 ....t n 1 t n

Cadena de Markov: Proceso de Markov con estado

discreto.
Proceso de Difusin: Proceso de Markov con estado
continuo.
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas

19

4.- Proceso de Markov

La ecuacin anterior puede ser escrita como:
f {x(t n ) | x(t1 ), x(t 2 ),..., x(t n 1 )} f {x(t n ) | x(t n 1 )}
entonces se tiene:
f {x(t1 ), x(t 2 ),..., x(t n )}
f {x(t n ) | x(t1 ), x(t 2 ),..., x(t n 1 )} f {x(t1 ), x(t 2 ),..., x(t n 1 )}
f {x(t n ) | x(t n 1 )} f {x(t1 ), x(t 2 ),..., x(t n 1 )}
f {x(t1 ), x(t 2 ),..., x(t n 1 )}
f {x(t n 1 ) | x(t n 2 )} f {x(t1 ), x(t 2 ),..., x(t n 2 )}

f {x(t1 ), x(t 2 ),..., x(t n )} f {x(t i )} f {x(t n ) | x(t r 1 )}

r 2

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

20

4.- Proceso de Markov

Conclusin:
La funcin de densidad de probabilidad conjunta de un
proceso de Markov puede ser expresado por medio de
las densidades marginales f {x(t1 )} y un conjunto de
funciones de densidad de probabilidad condicional
f {x(t r ) | x(t r 1 )}
,el cual es llamado densidad de
probabilidad de transicin.
Un proceso de Markov se dice Homogeneo en el tiempo si
la densidad de probabilidad de transicin es invariante en
el tiempo :
f {x(t r ) | x(t r 1 )} f {x(t r ) | x(t r 1 )}
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas

21

5.- Proceso de Conteo

Un proceso estocstico de tiempo continuo y valores
enteros se llama proceso de conteo de la serie de eventos si
N(t) representa el nmero total de ocurrencias de un
evento en el intervalo de tiempo t=0 a t.
N(t)
4
3
2
1
0

t1

t2

T1 T2

t3

T3

Time

T4

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

Intervalos de tiempo
entre sucesivas
ocurrencias
22

5.- Proceso de Conteo

Proceso de renovacin (Renewal Process):
Los tiempos entre llegadas son v.a. i.i.d.
Proceso de Poisson:
Proceso de renovacin en la cual los tiempos entre
llegadas obedecen una distribucin exponencial.

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

23

6.- Proceso de Banda-Angosta

Un proceso estocstico de tiempo continuo y estado
estacionario x(t) es llamado un proceso de banda angosta si
x(t) puede ser expresado como:
x(t ) A(t ) cos{ 0 (t )}

donde 0 = constante . La amplitud A(t), y la fase (t) son

variables aleatorias cuyo espacio de muestreo son
0A(t) y 0 (t) 2, respectivamente.

2
0

2 2
0 0

2
0

2
0

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

24

7.- Proceso Normal(Gaussiano)

Un proceso estocstico x(t) se dice que es un proceso
normal (o gaussiano) si para cualquier tiempo t, la variable
aleatoria x(t) tiene distribucin Normal.
Obs:
Un proceso normal es importante en el anlisis
estocstico de un fenmeno aleatorio observado en las
ciencias naturales, ya que muchos fenomenos aleatorios
pueden ser representados aproximadamente por una
densidad de probabilidad normal. Ejm: movimiento de
la superficie del oceano.
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas

25

8.- Proceso de Wiener-Lvy

Un proceso estocstico x(t) se dice que es un proceso de
Wiener-Lvy si:
i) x(t) tiene incrementos independientes estacionarios.
ii) Todo incremento independiente tiene distribucin
normal.
iii) E[x(t)]=0 para todo el tiempo.
iv) x(0)=0
Se conoce como Proceso de movimiento Browniano el
cual describe el movimiento de pequeas particulas
inmersas en un lquido o gas.
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas

26

8.- Proceso de Wiener-Lvy

Se puede demostrar que la varianza de un proceso WienerLvy aumenta linealmente con el tiempo.

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

27

9.- Proceso de Poisson

Un proceso de conteo N(t) se dice que es un proceso de
Poisson con razn media (o intensidad) si:
i) N(t) tiene incrementos independientes estacionarios.
ii) N(0)=0
iii) El nmero de la longitud en cualquier intervalo de
tiempo est distribuido como Poisson con media . Esto
es:
k

()
P{N (t ) N (t ) k} e
, k 0,1,2,...
k!
tambin es llamado como proceso de incremento de
Poisson.
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas

28

9.- Proceso de Poisson

Para un proceso estocstico de incrementos independientes,
se tiene la siguiente funcin de autocovarianza:
Var [ N (t1 ) N (t 2 )] para 0 t 2 t1
Cov[ x(t1 ), x(t 2 )]
e.t.o.c
0
Si x(t) tiene distribucin de Poisson, entonces:
(t1 t 2 ) ( (t 2 t1 )) para 0 t 2 t1
Cov[ x(t1 ), x(t 2 )]
e.t.o.c
0

Por lo tanto un proceso de incremento de Poisson es

estacionario en covarianza.
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas

29

10.- Proceso de Bernoulli

Considerar una serie de intentos independientes con dos
salidas posibles: xito o fracaso. Un proceso de conteo Xn
se llama proceso de Bernoulli si Xn representa el nmero
de xitos en n intentos.
Si p es la probabilidad de xito, la probabilidad de k xitos
dado n intentos est dado por la distribucin binomial:
n k nk
P{ X n k} p q , donde q 1 p
k

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

30

11.- Proceso Ruido Blanco

Sea {a (t )}tT
i. E[a (t )] 0
ii.

un p.e., se llama ruido blanco ssi:

1 si s t
Cov[at , as ] st
0 e.t.o.c.

Obs:
1. El ruido blanco es un proceso estocstico estacionario
(por construccin).
2
a
(
t
)
~
N
(
0
,

t T, en tal caso el ruido

2. Si
a)
blanco se dice Gaussiano.
3. Si t1 , t 2 ,..., t n T son independientes
entonces es ruido blanco puro
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas

31

12.- Proceso de Medias Mviles

Sea {x(t ), t T } un p.e., se dice de media mvil de orden
q ssi:
xt at 1at 1 2 at 2 ..... q at q
donde

1 ,...., q , q 0

y {a (t )}tT es ruido blanco.

Notacin:

X ~ MA(q )

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

32

13.- Proceso Autoregresivo

Sea {x(t ), t T } un p.e., se dice autoregresivo de orden p
ssi:
xt 1 xt 1 2 xt 2 ... p xt p at
donde

1 ,...., p , p 0

y {a (t )}tT es ruido blanco.

Notacin:

X ~ AR( p )

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

33

14.- Proceso ARMA

Sea {x(t ), t T } un p.e., se dice autoregresivo de media
mvil de orden (p,q) ssi:
xt 1 xt 1 ... p xt p at 1at 1 ... q at q
donde
1 ,...., p ,1 ,..., q , p 0, q 0
y {a (t )}tT es ruido blanco.
Notacin:

X ~ ARMA( p, q )

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

34

Bibliografa
Applied Probability & Stochastic Processes.
Michel K. Ochi.
Applied Probability Models with Optimization
Applications.
Sheldon M. Ross.

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas

35

Consultas o Preguntas?