$
#
"!






 



 





 






 
0
 



/,
φX (t) = E(eitX ) = E(cos(tX)) + iE(sin(tX)).




+.

 -
+
 ,

+

 )*
 '(
-
,

P X = P Y ⇔ φ X = φY

:
X : Ω 7→ R

 ) φX (t) = GX (eit )
%
 ( 9
78
φX (t) = e pX (x)dx


φX (t) = x e PX (x)


)6&
X, φX : R 7→ C

 $%&


P itx
R itx

"#!



X:

 

X : Ω→N
 
?

I S $
 F
 
5 H
RQ

  =
G
!
5 =
'
C
F
#P

  G?
)
M ON 
( F
  4 &- % @ $

C∞

 &
($
3 E
L5 #
 3 D
6<
7%


B "!
 A
2  4 
< 

 
,6
C
2 
 ,6
2 
 0 ; ?@A D BC
;  1


•φX
•φX
! 
21
 ! 2 K5

 01

  

> J 
 




























K


1

0


5
3


3
E(|X|k ) < ∞ E(.)
F

H

DI

F
D

F



B 

DH


A ?


?


H
@

?
@

B

@

CA
M


A
?

φ0X (t) = E(iXeitX ),

φ00X (t) = E(−X 2 eitX ) . . . ,
φ(k) (t) = E(ik X k eitX ).

 H

iE(X) = φ0X (0),

−E(X 2 ) = φ00 (0),
ik E(X k ) = φ(k) (0).








"!

!
RQ

S



#P


$
ON

$




























K5

 








L !


5

 




5

1


3
3


•X N (0, 1).
G?

F
I

1
pX (x) = g(x) = √ exp(−x2 /2)
2π
Z
φX (t) = E(eitX ) = eitx g(x)dx

s∈R


DH


1
Z Z Z
sx 2 s2 /2 s2 /2
e g(x)dx = √ exp(−x /2 + sx)dx = e g(x − s)dx = e
2π




?
D

HA

?
D

?A
D
F
?@

I
 ?

?@

I
E

?

?@


H



φX (t) = exp(−t2 /2)








"!

!
RQ

S



#P


$
ON

$

























•Y N (m, σ).
G?

F
I

Y = m + σX X ∼ N (0, 1).
C


?
B

φY (t) = E(eitY ) = E(eitm eitσX ) = eitm φX (σt)

= exp (itm − t2 σ 2 /2).









"!

!
RQ

S



#P


$
ON

$



 


)6&

(X1 , X2 )








)

-

$%

 ,
&
8

,
φX1 ,X2 (t1 , t2 ) = E(ei(t1 X1 +t2 X2 ) ).


-
'
)
&)
φX (t) = E(eiht,Xi ).

<
*
'(

7
)
X ∈ Rn , t ∈ Rn

'

%
6&
-%
8
,&
-<
,
<
$(
-

% ' S $
3 & $
5 < :
$( RQ
2
!



 ,
& #P
 ()
.
ON 
1
)

$
 , #


1
3
- -
"!
 ,
2
: 8 

 
5
)
(
8




%
0 
 ( 9 '6
5

 78 




 



 

φX1 +X2 (t) = E(eitX1 eitX2 ) = E(eitX1 )E(eitX2 ).


)

&

D BC 
 %
 6


)6

A?
 &
,( )6

7 ?

)(
  &
(,
H 7
:



78
DF
 ()
 B :
( E

% 78
φX1 ,X2 (t1 , t2 ) = φX1 (t1 )φX2 (t2 ).

& D
$( ? (
A %
φX1 +X2 (t) = φX1 (t)φX2 (t).
φX1 ,X2 (t1 , t2 ) = E(eit1 X1 eit2 X2 ) = E(eit1 X1 )E(eit2 X2 )

6
&
X1 , X 2

$(
6
X2

+
)
, &
+
X1

*

)6
(X1 , X2 ).

%
 .
! " !
#


 

  
? ?

B ? B




I 



 IC
F
IC S

H
 S $


? 
?

 G
C

 RQ
 E
G?
E
!

  I  I
#P
 F

F
F
@

E ON 



D
B 
$
  %
DC A 
DC #
6
"!
 
C
 

 
& D BC 

3
() L5 
3 L5 
 

φX1 ,X2
   
 ) 


  5  5
2 ' 2 2 2


)

> > > > 
6
 










































X1 , . . . , X n N (mj , σj )
F

?A


C

F

?

F

?

A
H

I
?@

C

@
@

?@

I
E

IC

?@
M



E(Xj ) = mj , Var(Xj ) = σj2
Pn
S = j=1 Xj

G
D





DC

C
D
1


3
3

5
H
@

@

A


?

I
?

A


?@


X X
2
E(S) = m = mj , Var(S) = σ = σj2 .
j j
>

L5

DC

F

?

5

I
E

IC

B
?


n
Y n
Y
φS (t) = φXj (t) = exp (imj t − σj2 t2 /2) = exp (im − σ 2 t2 /2).
j=1 j=1








"!

!
RQ

S
S




#P


$
ON

$












)




 )


 6


()

Ω̃ = {ω ∈ Ω : limn→∞ Xn (ω) = X(ω)}



 
%
6

X


-6
 )

3*
 



5


2
 5

 

  
B?

C


P(Ω̃) = 1.
 0
E ?
?


(Xn )
 I
F
 @ 
F ? ?
 G 
F

D 
 C

A
)
H
#


H @
?

 ' B
  ? 


+
)
I 
 D
!
?  7%& % ?
#
•X1 , X2 , . . . : Ω→R

B


1
R
C  "
AH

(
 
?@
8
%&
D 



H $

 %


, F #
  
"!

•(Ω, A, P)  $
-
H
A



 :
? 

 )

 7
 


  )6& 
 










 ?@ 
 E

F


µ = E(X1 )




DF
@A
 I





?A


?
 @
?
F

Sn := X1 +X2 + . . . + Xn .

D

?A


I
F 5
3
5
2 ?
A K5
2
?@
3


K


A 5
IC
3

?  4


 3
5
E
2
I
21 


F 5
3
5 C 2

  5
#
? 
5
I  

 
2 ?
0
!
 @
F
H R #

(Sn /n)

A
/
D
"
 @ GC


E(|X1 |) < ∞
?



$
1  #

•X1 , X2 . . .

"!

L 

5


 I
F

 F 

1 F
J M 
  





















K5

 

2

/

 


/
5

3


0


5


5



0
5


•Ω = {0, 1}N
•Xn (ω) = ωn =

F

F
E@

A

CA

I

?A

?

• (Xn )

G?




F
F

G?

F
@


H@

?@

I
A
?

H





P(Xn = 1) = p = 1 − P(Xn = 0)

⇒ Ω
G

G
FA
F

F

DC
C

H


E
@


?@A

I
E

?



n
Y
Pp ({ω ∈ Ω : ω1 = a1 , . . . , ωn = an }) = pai (1 − p)1−ai
i=1

Ω̃p = {ω ∈ Ω : limn→∞ Sn (ω)/n = p}

Pp (Ωp ) = 1 Pq (Ωp ) = 0 p 6= q

F
C

@








"!


"
R




#
!


#


$




 F

H

?
G

I

?

?

 


?A
?

G
D 


 DC 
H
B
X ∼ N (0, 1)

 F
 H



G
%
6
?
B?
X



?
B

?
?

-6
limn→∞ E(f(Xn )) = E(f(X))

)

?
* D  D
?

B
?


H 
 B

H C
 B
Xn = (−1)n X

5 ?
I
C
5
)
 G?
5

2
5 8


F
-( 
 C
$
  1 D

0
2

A?
) 
&
(Xn )


 @
)

'
?
 K
?
B
( 
%

?
F
 ) @
'
&
$( C  ? #


  

 <
f D
?

@
@

!

?
?
7%& E

H C #

@ R
($ GF

F "

B

(
 % 
C IH
?@A @


& C
C  $

H
?


<
  $(


F ?
B
 F
@
#

) H
L

H "!
 C

?
A


'


  

 &
$ ? DF 

X
2 B
 
 -&
 

D
?
 E

'

H
 2 @
$ D ? 
  : > B 

C
D  
 




















(Xn ) X.
>





3

'

$6

'
)

<

$(
*

)
-

)(

$%
*

)
-6

$(
<
&
%

$(


"


:
:

7 X FX (t) = P(X ≤ t),
)

8-

,&
-
%&

($

7
)

)6&

<

$(
&
%
(

'
)

,


$
-6
:


limn→∞ P(Xn ≤ t) = FX (t).

h : R 7→ R 1x≤t ≤ h (x) ≤ 1x≤t+

>

L5

HA

F
5

AH


?
M

0
t t+ε

lim sup P(Xn ≤ t) ≤ limn E(h (Xn )) = E(h (X)) ≤ FX (t + )

n

⇒ lim sup P(Xn ≤ t) ≤ FX (t)

n→∞

lim inf P(Xn ≤ t) ≥ FX (t)

?

A
?

n→∞








"!


"
R




#
!


#


$








()
 )


-
 ) 

 *
$(


(Xn )

 <





!
!






 


5


X ⇔ limn→∞ φXn (t) = φX (t)


1
>
5

5
K
2


#



5 
!
#

 R
"
 
5 

#
K
2 -6
 ) R
 
*
$%



 









 
?@ 
E

F





DF
 @A
 I




?A

?
 





F


?A


 ?
) = 1.
I
 F
)=0

G

 ?
F
C
A
Sn − nµ

?@ DC  Sn − nµ

Sn − nµ
nσ

nσ
nσ

A C
√

Var( √
IC G
E( √
?


?
A
?


E F

@A
I 
?

F
E(X12 ) < ∞, σ 2 = Var(X1 )

C


 ?

$
I S
•Sn = X1 + . . . + Xn .

 ?
RQ
F

!

A

#P
@
?
ON 

? $

F
 ?
F #

•X1 , X2 . . .

?
"!
E ?

F 



D A

BA? I
I
F
E

 F 

F
M ?@A
D
? 
A
 




 )
)
)
 -
< $&

'%& ,(
:

 6 -% @


) ,
$

D?
(


'( I
*
N (0, 1).

)<
)


X1 , X 2 . . .

 &


6
µ

C

)
'
)

) D


(
)(
( ?@
($
)( %



6

∈ I = g(x)dx

$%
'6

?


$ <)

 
' , F
 )


@

7

$%&
@


) )
$%
X

7
?

C 
I


" ! ,
 Z

)

5 )6 ,
+ -% F
 '8



,
@
H
21  H
)*
 DE G

-%
'(


)
)*
?@
I
5
7 '(
0 6&
?A
7% -6
Sn − nµ

B )
5 ) )6

A?
nσ

 ?
& I E@
()

* &
 ,(
√

$%
? 7
$

DF

)



G

I

' @ )( <





() ?
! )  : &

D )(
)
H
limn→∞ P

% F
78
exp(−x2 /2).



,

& -

?
 )( )
)
 

7 - (
 %
*) ?

D
%
* )6 %* B


,
)
$(
& A
$

& D  S
 &

( C

% B ,
A
)

< ?@
)6

% D BC
' %- RQ
n −nµ

C
 &
$ , $
  !
nσ



& - F
DC
 
,(
: I #P
( S√

2π
7 -& )* @
 :
?



√1
' 7 ON

H
,
()
:
$
: G ) F  $
) ? #

g(x) =


5
78
 "!

- 

BCA ?@
'%& )

K
+%
(
6 %
$


F

 
F 

2 ' DC
,

, 6
 + ) @A

.
%<
- )
? 

H


σ2 .
( H
)* ,& < GF 





•
7 : ,
*

 
























DE

E

H

DC







DH

?

?A

DC
H

B
E

B
?

A
?


H


E



?
@












C

 H

H





>

L
1

5


5


5

5



n
Xi − µ 1 X Sn − nµ
Ui = , Vn = √ Ui = ( √ )
σ n i=1 nσ


DC

F

?

I
E

IC

B
?


φVn (t) = [φU1 /√n (t)]n

D


t √ √ 2 2
√ 2
φ √U1 (t) = E(exp (i √ U1 )) = E(1 + (it/ n)U1 − ((t/ n) /2)U1 + o((t/ n)) )
n n

t2
=1− + o(t2 /n)
2n
−t2 /2
⇒ limn→∞ φVn (t) = e = φX (t) X ∼ N (0, 1)
C


?
B








"!

!
RQ

$ S


#P


$
ON








 











 






1

$
S
RQ
!
#P
ON 
$
#
"!






 






















K5

 






G
F

C

G
F
DF

E
5

 




?

I
?

 H

B
?

E







!
Pn
Xi ∈ {0, 1}, Sn = i=1 Xi

H
D

C

?@


I
?

B
µ = E(Xi ) = 1/2,
σ 2 = E(Xi2 ) − E(Xi )2 = 14 .
n = 400


DH


Sn − nµ S400 − 200 S400 − 200

√ = =
nσ 20 × 1/2 10
Z c
S400 − 200
P(| | < c) ∼ g(x)dx
10 −c

c = 1.96, S400 ∈ [180, 220] ∼ 0.95



DH

G
FA
F



?
B

H


E


c = 2.6, S400 ∈ [174, 226] ∼ 0.99



DH

G
FA
F



?
B

H


E









"!

!
RQ

$
S


#P


$
ON










H

 I



B



F
?

?

?
G
GC
 D

GE


D
?

H
 D?


FA

 D
?A



 A


 C
? ?
  F

DC  
F

D


D



@A
 I

H A
?


 B
E
?


A

I
IC ?

E
 B

? F

 
?
F
FA
G
E 
I E
 C

D 
? H


F

?
 DH
  D
 G?
?
ECA I
I
 GC

C 
 ?
B CA  


D

? G

A B
?  

F
E@ 
$

E S
D  C ?


θ

D

I RQ
GC

?
? E !
?
F
I
A E
#P


C
 C
? F ON 
$

FA
?
G
G

HA #


"!

B C
DI F


F
A ? H 


H
@
C
F
 
B  @
D
H D
?

ECA


G
A? 



θ

BA
GC
 





 f


 8 ' ›Š

# #
 $ IG
/.,-  HI
# D
 !8
 ' #  I D
   %

#  # fg M
 QJ G


  0  D G
 +  I
   MW QI [
  3 V V IGW

 # /.- 7

  # QWZ a


! # D
!*
 %
= ' IW D ]
 7 Y I a
0 .  # X D

   2

$
D QF
& ' V
 K HI
 . ed
!# /.- HI
!#  HIG O
 #) ' ! k

   
#) $ J G
   & 0 I _
W W [
 !  M Q
 % 2 Q
(#  ^]
 V J „…
(#
VG

 E cM F „
 = 
> 
 6# D
#
 UV
$ , . % I D ‚ƒ
 HI
 (# V j
5 ;< F J
!# A I
  ; i ~ 
' IW
  $ . % : K TN IW n
  < €
 & @ S W\ ^
D W
  %    !#
#
HI
#  $ R
M I ~w
% # WI a oq

 V p
$ ! o

!  Q FP GZ
4#
$ #   O
QJ [ q
 .  E Q IG }
   ! M
1 ' KZ
# 
0
B 
 KF N F
Š
 I ‰
 "!  !
 !
 # #
Kb
VG
wn š
 # ML X D q š•
   ' J _ KF |p
 H Z
 ! 0# a ™˜
 x{z
  A W ` Q
!# 
KI WZ ‘’
 .
$ ! ?@ HJ ”—
 VF Z xwyv
  6
 # $ I u –‹
     W o
 HI QIW F
 # ,  Q •
 $ #.  tq


 & ' D I h ”
 ! Q [ E
  M “’
 %  M nqs

 % !# EFG HF

  # % ‘x
   $ U IW 
% 7
  0#  X D

   3 9 CD I  r pq
  M M o Ž Œ‹

G
K Š
mnl Š‰

 ˆ


†‡
 pq
‚
P(Xi = 1) = p.

›

‚
›

mp
R.

q
uw




q
. %
o

#
$
qt
‚ 

#


 '
#
$ #
. $
#
49%

# !
 '
#
!#
Xi

0*  %
&
!  '
i=1

#
N

$
PN

Xi

 !

 # $
i=1
Xi = 1

&
 n ! #
p=

Pn


 8
959

 


Xi
* 
0#
N >> n

 %

p̂ =
    
 
# #
R



8
n

 

#


Š
• Xi ∈ {0, 1}, i = 1 . . . N,

 # ‰
š

% #

š•

# # 

!
 
$
  ™˜
$  ! .# #/.- 
 # $ ' $./- ‘’
$ 7  * ”—
! !
. !


#  1$ ' –‹
1 #  0& .
& & # •
%
 ' 1$


'  ”
$  *
# $. “’
#  1
' 1$
 !#

$ ‘x
7  0 
! #

# $ %
$   * 
  0 & 
$   . ' Ž Œ‹
 . + ( 1

⇔
 Š

 !
6 Š‰
•
•

•
 

9


ˆ
›


†‡
 ›

‚


‚
qt



q
uw
q

mp

pq


√
|S − np| n|p̂ − p|
p n = p
np(1 − p) p(1 − p)
√
≥ 2 n|p − p̂|

2




5



,
%

!
√
c
Sn − np
Z
P |p − p̂| ≤ c/2 n ≥ P | p |≤c ∼ g(x)dx.
np(1 − p) −c

n
Q
c

V
V

f
^
f

K [

 
M

M[
G

MW



HJ

M






N


np > 10, n(1 − p) > 10


 √ √ 
p ∈ p̂ − c/2 n, p̂ + c/2 n
Rc
−c
g(x)dx.














√ √ 
5


!

#


$


p̂ − c/2 n, p̂ + c/2 n
Rc
p −c
g(x)dx.
!

!

#




!


#
.
$

#
'
#



#
. %

'
#

.&


$
&
†‡

ˆ
Š‰
Š
Ž Œ‹

‘x
“’

‘’
™˜

š•
š
Š


”—
•
–‹

›
‰
 pq
‚

‚
›

mp
q
uw
q
[0.46, 0.52]



o

qt
‚


#

70%
52%

! G
 QIW
2 n

g(x)dx.

# #
p ≤ p̂ + √
c

! ' '
 J
IL & &
# $ $
'
# HI  
−∞

 
c

 .& .&
Z

 I
E  
≤ 0.499 ⇒ c ≤ 0.55 ⇒
≤ 0.491 ⇒ c ≤ 0.06 ⇒
# ek

$
[
!
4 , HZ
95%

Š
‰
F š
š•
# K
' HI
# ™˜
& ' ‘’
$ I
& W ”—
$
 QW
–‹
 V
 •
.& 
HJ ”

, .&
•c = 1.96 :
“’

2 n

2 n
# 
# ‘x

√
WZ

c

0 !
V

• p̂ +
• p̂ +

 VK Ž Œ‹
0
# #.
F Š
2  Š‰

V


ˆ
›


†‡