Professional Documents
Culture Documents
..
: 230201
080801
-
2009
. . , . ..
. . , . ..
-,
, 2009
2
............................................................................................... 5
1. ......16
1.1. .........................................................16
1.2. ............................25
1.3. .....................................................................28
1.4. ..............................................................36
1.5. ......................................................................41
1.6. ...............................................................45
...................................................................46
2. ...........................................47
2.1. ...................................47
2.2. .......................50
2.3. ............52
2.4. ...................53
2.5. ............................54
2.6. .................................................................55
2.7. ........................58
2.8. ................................65
...................................................................79
3. ......................................................80
3.1. ...................................................80
3.2. ..........................81
...................................................................86
4. .......................................................87
4.1. ........................................................87
4.2. ..........89
4.3. ......................................95
4.4. ....................101
4.5. .......................................................................106
.................................................................109
5. .......110
5.1. .................................................................................110
5.2. .........................................................128
5.3. ...........................................................................132
5.4. ........................................................................133
5.5. ..........................142
.................................................................146
.............................................................................147
.......................................................................................148
..........................................................................154
..........................................................155
..156
,
. () .
, (). , , ,
. , .
- , , , , , ,
. :
1. ,
(,
).
2. ,
(, , ).
3.
, ,
, (, ).
5
1 3, . . ,
.
, .
() , , , .
, ,
. -
-, , , . , , ,
,
, ..
, , .
, :
;
.
:
6
-, ;
,
;
;
.
, ,
, . ,
:
.
1956 .
.
() 60-70- . , , ,
.
.
7
, , ( ). ,
. , - .
.
,
.
, .
(. .1) : , , .
:
1. . : " " ( );
; ; , , , "" ..
- ,
().
:
, ()
,
.
2. ,
, , .. 8
.
, ,
, .
. .1.
3. .
, , , "-", .. - .
4. .
: , ,
9
, .
5. .
,
,
. :
, , , ,
, .
6. .
, .
, ,
.
, ,
. :
1.
( ), : ,
,
, .
2. . : - ,
- ,
(), (), .
. , , - 10
, , ,
. , , :
"-", ,
, ,
(), () () .
, .
- - ,
.
; ; ; ,
,
.
. : ;
: ;
( ) .
3.
, : ,
-, ,
.
4.
.
(, .).
, .
11
, .
. .3.
,
.
, ,
(,
) (, , ). , .
- ,
, - . . . , .
. (. .2)
() . ,
, , .
( ) , , , .
( ) . , , .
,
.
12
. .2.
:
(), ;
,
.
.
,
,
.
( ) . .
13
,
.
, ,
. .3.
()
. .3.
()
,
, ,
.
()
.
- (),
.
( ).
()
,
.
()
.
14
()
.
,
, (,
).
.
,
,
().
,
.
,
.
,
:
;
;
;
.
.
15
1.
. , . . .
1.1.
(,
) ,
. ,
(, , ),
. ,
.
,
,
. ..
, .
, , .
: - ( ,
, ,
, )
( ,
,
- ).
.
-
16
, .
.
,
, .
, .
(), . , . .
, ,
: , ; ,
; , ; ; .
"".
, .
, , : ; () ; ; ; ; .
,
.
,
. ,
17
,
.
()
. ,
- ..
.
, . ,
, ,
.
, ,
, , .
, .
, .
.
.
.
. , . - ,
.
-1 +1 ,
-1 , +1 - .
18
- ().
,
.
, ,
,
.
, ,
, : " 1 2 ...
N, ".
, ().
, ,
().
, ,
(). ,
.
, ,
. : , , .
,
. , ,
.
()
19
, .
.
,
, . ,
() . , . , ,
, . , , , , ( ) .
,
+ = .
, ,
.
:
( ,
, , );
();
, .. ,
;
, ,
, ;
, , .
. "" "20
" "". - .
- , .
.
: .
-
.
, , . ,
- , .
,
.
-
, , , . , , .
, .
. - . , .
, .. ,
. .
, . .
-
. .
.
.
, , , ,
21
.
.
. 1.1.
2
. 1.1.
( 1) " - ".
( 2) -
, .
. -
,
.
- () .
- .
22
,
, . 1.2.
|-----------|
|------------| |----------|
|
|
|
|
|
|-----------|
|
|
|
|
|
|-----------|
|
|
| |
|
|
|----|
|---|
|
|
|
|-----------|
|
|
|
|
|
|
|----------------|
|------------|
| |
| |
|
|--------------|
|
|----------------|
|------------|
. 1.2.
,
.
, 3
( ):
, ( );
, (
);
, ( ).
(),
, ,
,
.
, ,
, .
:
;
23
- ;
;
;
()
;
.
. ,
,
,
.
,
, , , , .
(, 3)
, , .
( 4) - ( ).
( 5) -
, "" "" .
( 6) ,
,
.
( 7)
( 9).
( 8) , , .
( ) 1 - 4.
24
: 5- - ; 6- -
; 7, 8, 9- - .
.
, , .
1.2.
, ( ) .
, .
(
),
: , , , . - () , .
,
.
. , .
.
,
,
. ,
,
.
() - . , , .
25
, . : , , . 1.3.
()
:
;
. 1.3.
. ,
, .
,
. ,
, .
, :
1). , ..
( )
- . 26
. ,
, ( ).
2). , (
, , ). ();
.
.
3). () (1 10)
( ,
, ).
, .
4). , . . , , , ,
,
. , .
() 1, 2, ..., n , k
, -
. , , . , , , . ,
.
.
27
1.3.
- ,
. ( ):
M = < T, P, A, F >,
T
- ( );
P
-
;
A - ();
F
-
.
, , F .
.
. .
, , .
,
,
.
() , ()
.
.
.
28
,
, , . ,
, , .
.. (1646 - 1716), .
. . . .
( ) , ( )
.
, .
(J. Herbrand) 1930 ,
,
. , , , . ,
.
. . (),
. ( ).
, ( S), .
:
0 - , S ( 0 = ,
, -
- , );
i+1 i = 0,1,2,... i
n
f (t1, ..., tn), fn - (n - ) S, tj
i, j=1,2,...,n.
29
,
( ). , , , .
S - , n(t1,...tn) n- n ,
S, t1, ..., tn - S,
S.
S - , - S I - S . , I - S, :
1). I S ;
2). I fn ,
Hn (.. (h1, ..., hn) fn(h1, ..., hn)).
= {1, 2, ..., n}, ... - S,
- I
I = {m1, m2,...,mn,...}, mj = i ^i.
, S , - I
' S, ' I.
S - -
. S ,
, :
1). N
l1,...,ln. Qi - , li (i = 1,
..., n), Q1 v Q2 v ... v Qn = tru ( ).
2). N I(N)
, , N. I(N)
(
- - , ^ ).
S
, i N I(N) i, ^i.
30
, I(N)
S. S - ,
(
- ), .
N , I(N)
S, N N' I(N') S. ()
, . :
1: S
, S
.
2:
, S' S.
,
S
, :
S0', S1', ..., Sn', ...
S;
.
, , .
1). . S.
2). . L S - . S' S , L. S' , S ; S'', S' ^L ( ^L , S' ).
31
3). . L , ^L
S. , L,
S.
4). . S (1 v L) ... (m v L) (1 v ^L) ... (n v ^L) R, i
i L ^L. S1 = 1 ... m R, S2=1 ... n
R, S - , (S1 v S2) .
,
.
.
-
.
: 1
C2, L1 1, L2
C2, , L1 L2 1 C2 , ,
1 C2.
.
, : 1:() v Q(), C2:^(f()) v R(). . 1 ""
"f()", C2 - "" "", 1':(f())vQ(f()), C2':(f())vR(). 1' C2' - C3':Q(f())vR().
1' C2' - 1
C2, 3' - , 1
"f()" "": 1'': (f()) v Q(f()), C2:(f() v R(), 3'': Q(f()) v R(). , 3' -
3'', 3''
.
-
{t1/v1,...,tn/vn, vi - , ti , -
32
- :
1. - , "/". ,
.
S S', ""
. "" S ,
, .
2. - , "", ""
" ". /,
. , .
3. - , . , .
, , ()
() ( ) . .
. ,
"" :
() ;
,
(
);
, ,
(
);
( - )
34
( -
);
-, ( )
-. ( ) ( ).
,
. . , , "".
, -
- ,
-, . .
(
).
,
S ^1 v
^2 v ... v ^m v (m 0). m=0 "" - "".
""
-
^1 v ^2 v ... v ^m v , 1 2 ... m ,
:
:- 1,2,...,m.
( m > 0)
.
( m = 0)
:
- , 1, 2, ..., m.
, :
:- 1,2,...,n.
35
, ()
, () ,
() .
:
-
;
,
;
, -
,
.
1.4.
, , 80% . ,
" (), ()".
"" ()
-,
, "" () - , ( , ,
, ).
(
) ( -
). - , , ,
.
,
, , 36
. ,
3 : ; ( ); .
,
( , , ) 3
: ; ; .
.
:
1) ,
;
2) () ;
3) .1,2 ,
, , .
.
:
1) , - ,
,
(.. THEN-);
2) (.. IF-)
;
3) .1,2 ,
,
( - ), ,
, , , - .
, .
( , ).
.
G G = (N, T, , S),
N - ,
37
T - ,
- ,
S - .
N T = , N T = , S N -
, P={U x} (U N, x N T).
- (U,),
U , U - , - ().
G - . u w ( w u), .. u
w, u = U,
w = u, U u - .
, v w ( v + w), v u1 u2 ... un w.
v * w , v w, v = w.
G, S * , .. -
S - G.
- G
, - G.
G
G: L(G) = { | S * , x T+ }.
G - , w = u - .
T u w U, S * U U + u; , S * U U = u.
.
() ,
(, )
.
.
.
38
:
1) B S ( S - );
2) B U,
U 1 ... k ( , );
3) 1, ..., k (U,1), ,
(U,k), , .2.
,
.
,
.
,
.
, , , , . , , ,
.
:
" ?", .. ;
.
, .
, ( .
:
( );
- , ,
.
39
- .
() .
.
P -
G=(N,T,P,S) U , U N, A*=(N T)*.
"" "", "" .
(),
.
- (-). (). ,
, , .
().
, , , .
, .
() . ,
, .. .
() :
= (K, T, M, S, Z)
K - ,
T - ,
40
M - K
T ( KT) K, ,
S - KA (S K),
Z - (Z K).
- -,
N, . , , .
U a ( ), (, Q), U Qa.
,
. Q
, S (S ).
U Va
V U a.
() , .
1.5.
- ,
,
, , - .
, -,
. .
. 41
-
: 0-1=0, (n+1)-1=n. 1932 . :
f(,,z) if =0
then 0
else
if +1= then z
else f(,+1,z+1);
n-1 = f(n,0,0).
n=3: 3-1 = f(3,0,0)
f(3,1,1) f(3,2,2) = 2.
, -, S- ( Symbolic - "").
S-, ,
S- ().
- , . () NIL. .
S- ( S-), (
S-).
() S-
-. -
. :
S-; S- (EVAL); S.
, S- .
EVAL, . :
S- ,
, NIL, EVAL S- ;
42
S- , EVAL , , ( XLisp
);
S- , ;
S- (f arg1 ...
argn), EVAL f arg1, ..., argn.
- f, EVAL .
f , S-
S- ( ,
S-,
).
, -,
. -.
- S- :
(LAMBDA (arg1 arg2 ... argN) expr1 expr2 ... exprK),
LAMBDA - ,
;
arg1 arg2 ... argN - , , -;
expr1 expr2 ... exprK - S-,
"" .
-
( )
"" . -, .. "" ,
S-, "" . .
43
, .
. .
- ,
, -, . ,
:
-, (, , );
- (, , );
- (, ,
);
- (, , ) .
:
( :
( 1- : 1- ),
( 2- : 2- ),
.
( N-o : N- )).
-:
- (Default-);
, ;
, ;
;
;
.
- . , 44
-.
, , .
. , .
, , . FRL (Frame Representation Language).
1.6.
"" "", , , , . . , .
, . ,
( a r b ), b -
, r .
, (), - . .
. :
, , - () ;
,
, "-" "";
, "", "-";
, "-" ..
, 45
, , .
.
. (), , ,
. .
.
, ,
.
:
.
2.
.
3.
.
4.
.
5.
.
6.
.
7.
.
8.
-.
9.
.
.
10. .
1.
46
2.
.
. .
: , , .
.
2.1.
70- ,
-.
, , (). . , :
- ;
( );
;
;
;
,
.
,
.
,
. 47
. , (. 2.1):
. 2.1.
, , ;
,
, ,
;
, , , , ,
;
, .
.2.2.
, ,
. ,
, , ,
.
48
,
,
. 2.2.
, ,
.
, . ,
, .
, , ,
. ,
, ,
, .
.
, .
, , .
49
, . , . . .
. .
2.2 , :
, ;
, ;
, ;
, .
2.2.
, .
(, ) ,
. . , .
. ,
.
, ,
.
, .. , . , .. ,
, , ,
. ,
.
,
, 50
, , , . , ,
.
() ,
. :
,
, ;
,
.
, , , .
,
,
. , , .
,
, . 2.3. , .
,
. (. . 2.4).
:
;
.
.
51
,
.
. 2.3.
. 2.4.
2.3.
:
52
. . - ;
.
.
;
. - - .
;
. ,
. , , .
, .
-. ,
, .
2.4.
:
( ). (
).
, .
, "" ,
.
,
: , , .
, , , .
53
, ()
. , :
,
, ;
,
, .
,
, .
, .
2.5.
, , , . ,
: (.. , -). (..
, , , ). (..
).
, :
,
.
, : , , (.. ,
).
54
, :
(.. ).
.
, . ,
, , , ,
. .
2.6.
,
.
(. . 2.5).
. 2.5.
.
.
.
,
. : 55
; .
.
. .
, , .
:
;
.
.
.
.
: , ; .
.
. , .. .
, , , . , ,
:
: ;
.
. . ,
56
.
:
; .
.
, ,
.
,
: ; .
.
- . ,
. , .
,
: .
,
: .
,
(, ..), ..
,
.
,
(, , 57
) .
.
.
(IBM PC, Macintosh
) () .
-, () .
.
.
- .
2.7.
. . : , , , , , . . : , , .
. : ; ;
; ; .
,
, . 1-2 ( 58
- 12-18 ).
50-100 , .
,
, .
3-6 . 200 500 .
,
. 6-12 ,
500-1000.
,
( ) . ( 1000-1500 ). 1-1,5
.
, , , ( )
,
, . 1,5-3 .
1500-3000 .
. : .
. , ,
59
,
, . , , .
.
: ( ) , ,
. "", "", "" .
, :
, , (
);
( ) ( );
,
(
,
"" ) ( );
, ,
( );
" ", ..
, , (
).
, .
:
(
);
60
- - - , - ( );
, ( ).
, :
, .. , ,
( );
, , .. ;
,
(
);
, , ( ); , ( ) ,
, ;
,
( ).
" ". ,
.
() , . ,
. , , , , 61
,
.
, ,
.
.
.
.
, .
, ,
.
(. . 2.6): , , , , , . , .
. 2.6.
62
:
, ;
.
, (),
.
,
. - : ,
, .
. , , .
. :
, ;
,
.
, (-) .
. () . :
;
, ;
(), ;
;
;
, ;
() .
63
-
.
( ):
;
;
;
;
, ;
;
;
, ;
.
. , .
, ,
, .
.
:
;
;
( );
.
. , ,
.
,
64
, .
, 5 .- ( ) .
,
, .
. ,
, , . :
;
, ;
();
.
, .
2.8.
,
. , , .., .. , , . , ,
. .
. ( ).
,
. 65
, ,
. , -.
, .
, ,
, .
.
( ) . :
(, , , , ... );
,
(,
, ,
.. ); ( ,
, , , , ).
. ,
, ( )
.
, ,
.
, , ,
, . , , .
, . ,
66
.
-:
,
;
.
.
(,
)
.
, .
,
, .
,
, ,
.
, .
. ,
,
, ,
. ,
,
.
. ,
,
.
. :
;
67
;
.
, ,
, ..
, , - . .
.
,
().
, .
, . ,
, .
,
().
' , ,
.
()
- .
1. . . , , ( )
.
( ,
).
: ,
68
(
),
, , , ; ,
, .
, ,
, . . :
, .. ;
;
,
;
;
,
, ;
;
;
, .
( , , , ).
,
, ( -),
, , , .
.
, , , , . . 69
, , , , , .
, (, , , , ) ,
,
.
. ,
, .. .
,
. ,
, ..
, .
2. .
(. . ) , .
; ; .
3. . , ,
,
. . . .
.
(, , ), 70
(, , ).
: , , . .
, . .
.
.
,
.
.
, .
,
, .
.
1. ( ):
, ;
, .
2. : ; (
);
; .
3.
4. (
, ).
5. (, ).
71
6. ( ).
1. :
) ;
) (
).
2. . - ;
(, ) .
3. ,
.
4. .
5. .
6. . 1, 2, 3, 4 5.
:
;
;
.
, , ,
. : ; ;
; ( ) (, -, - ..);
; , , ,
.
72
.
, .
, ,
.
,
, .
.
,
.
:
;
;
.
, ,
, .
. ,
.
,
.
:
(), ,
.
(, 73
) ,
, .
:
;
-
; ;
() ;
.
, . . ,
. (
),
, , .
.
: , , ; ; ; ;
; ;
, (), () ..
. , .
.
74
( )
, :
"" ;
,
, .
(. . 1).
, . ().
, , , , , .
,
.
:
, ,
.
,
.
.
( - ), .
.
- , .
,
, . "" ,
, ,
, , .
75
.
,
. - ,
.
,
:
;
;
-,
,
, .
, , , .
. . ,
. ,
. ,
, .
.
,
76
,
.
, ,
.
.
: ; - ; ; .
.
,
. ,
,
. , ..
, - ,
, .
() ,
. -
.
,
. ()
, , -
() .
. - , 77
.
, .
. , , , .
, .
, , ,
. , ,
,
, .
, .
,
.
.
. , , , .
.
, .
, .
, ,
.
.
,
- - .
.
78
,
.
:
- , , ,
;
- ,
;
- ;
- , ;
-
( ),
;
-
;
-
, . ,
-,
, .
,
.
1.
2.
3.
4.
5.
6.
:
.
.
.
.
.
.
79
3.
. .
3.1.
,
, () .
, , .
, , . .. .
, . , :
, , , , .
. , , .
,
,
..
. ,
(, , , ..) -. -
.
,
- - .
80
, . , ,
.
.
. , (
) , .
, ,
. .
, 1965 .
, .. (). .
() 0 100, , .
, ..
, , .
3.2.
,
.
81
, , ,
. ,
. : ; .
,
.
() ?
?
( ) , ?
,
?
, .
,
. ,
,
.
. , , ,
.
( 1660 ).
, , .
.
. .
. ,
. , , 82
,
.
, . ,
,
.
,
. ,
. .
. ,
,
,
. , .
.
. : ( ),
( ).
.
. ,
( ) ( ) , . . , , .
, . ,
.
, , "".
83
,
, :
()= ()+ (B)
, ,
:
p( A | B ) =
p( B | A) p( A)
) ( A) .
p( B | A) p( A) + p B | A p
.
. .
.
.
,
:
< > < >.
, , ,
. ,
, ?
, .
84
, .
:
, ,
;
, , (), .
, :
p( H | E ) =
p( E | H ) p( H )
) ( H)
p( E | H ) p( H ) + p E | H p
, ,
.
(), .
, , . :
();
( /).
, ,
. ,
. , ,
.
1 2 ,
:
( 1 2| ) = ( 1| ) ( 2| ) .
( i | j ... k) i (j ... k), ..
85
.
.
,
, .
(1 ... m) (1 ... n). :
p( H i | E ) =
p( E | H i ) p( H i )
p( E | H k ) p( H k )
, i = 1, m ;
k =1
:
p( Hi | E1 E 2 ... E n ) =
p( E1 E 2 ... E n | Hi ) p( Hi )
p( E1 E 2 ... E n | H k ) p( H k )
, i = 1, m .
k =1
.
,
,
.
, , :
p( Hi | E1 E 2 ... E n ) =
p( E1 | Hi ) p( E 2 | Hi ) ... p( E n | Hi ) p( Hi )
p( E1 | H k ) p( E 2 | H k ) ... p( E n | H k ) p( H k )
k =1
i = 1, m .
.
1.
2.
3.
4.
:
, .
.
.
.
86
4.
, , .
4.1.
,
.
,
.
11
10 . - , ,
, . - .
.
.
. ,
14
15
10 10 .
.
.
:
1) :
, .
87
2) , , , .
3) .
, , .
4) . : 10% .
.
,
. (, ), , .
, ( ,
), ,
,
.
/. , ( ), .
.
. .
/.
.
.
.
, .
, .
, . 88
, , ,
.
.
4.2.
:
1) ;
- ();
2) - ; ; , , ;
3) ();
4)
(), ( );
5) ;
; ,
, ;
6)
, ,
.
, , .
, .
,
.
, ,
.
89
,
.
. 4.1.
x0= 1 w0=
wi
xi
y = f (I )
wN
xN
. 4.1.
N + 1 xi wi , . W
T
- W = [w0, w1, , wN] .
,
, :
I=
wi xi = W T X .
i =0
I , f, : y = f(I).
x0 w0 . w0 , .
,
, :
90
f ( x) =
1
1 + e ax
a , .
:
1. ;
2. .
.
1. . K- , k , . , . . 4.2 .
W
XR
YR
. 4.2.
. , . . W MN. : Y = f(WX);
N
yi = f ( wij x j ), i = 1, ..., M .
j =1
2. . () , . 91
.
, , . , . . 4.3.
:
Z = f(VX);
L
l =1
j =1
W
V
XR
YR
ZR
. 4.3.
3. . . , .
. 4.4
. X(t),
X '(t) y(t) t .
X(t)
X '(t)
y(t)
. 4.4.
, A, ,
y(t) = A[X '(t)], X '(t) = X(t) + B[y(t)]. ,
92
y (t ) =
A
[ X (t )] .
1 AB
, .
.
4. .
.
.
,
, . N- . ,
. :
1) ,
N
; I = wi xi , N ;
i =1
2)
y = sign(I ) y = 0.5(sign(I ) + 1).
, , . 4.5. M 2M
.
X = [x1, ,xN],
Y = [y1, ,yM]. W = {wji | i = 1, 2, , N, j = 1, 2, , M},
wji i- j- , , .
x1, x2, , xp S1 S2. ,
93
x1
y2
x2
X
xN
yM
. 4.5. , M c N
. ,
, . . 4.6
.
, , , S1, , S2.
S2
-1
S1
. 4.6.
.
,
N- , , , , , ,
, .
94
, . , .
. ,
, .
:
1. . .
2. . t
X(t)
d(t).
3. . I
.
4. . .
5.
,
.
4.3.
,
.
-
, . , ,
.
. 95
, , .
, N ,
. i
t si(t).
:
N N
i =1 j =1
i =1
E = wij si s j + 2 i si .
. ,
, , . ,
,
.
. , .
N T
S = [s1, s2, , sN] , si = 1 .
, fj()
, .. fj() . a.
j .
:
N
1) I j = w ji si j ;
i =1
2) j:
96
I j > 0
1,
s j (t + 1) = f ( I j ) = s j (t ), I j = 0
1,
I j < 0
sj(0) .
.
p N-
{ | = 1,2,..., p} . p .
,i i- .
w ji = 1
N
, j ,i .
=1
wii = 0 , .. .
W= 1
N
p
T N I , I . -
=1
.
.
,
.
, .
si(t + 1) = f(Wsi(t)) .
()
.
. . . 4.7 .
A B. A , B .
97
. 4.7.
, N X { 1, 1}N , M
Y { 1, 1}M . , X, , Y,
W = {w ji }, i = 1, 2, ..., N ; j = 1, 2, ..., M .
. p ,
: = {(A1, B1), (A2, B2), , (Ap, Bp)}.
p
W = B A .
=1
:
(1)
xi
new
=
(1)
1,
vi > Si ;
old
(1)
xi , vi = Si ;
(1)
1, vi < Si ;
(2)
(2)
yj
new
1,
vj > Tj ;
old
(2)
yj , vj = Tj ;
(2)
1, vj < Tj .
vi vj , Si Tj .
:
vi(1) =
( 2)
wij y j ; v j =
j =1
w ji yi .
i =1
98
1
1
P(vj);
1 P(vj).
:
P (v ) =
1
,
1 + exp(2v / T )
99
T , . T 0,
. T,
. T 1/2.
E.
j-
sj sj P( s j s j ) = 1+ exp(1 / T ) ,
j
j .
:
1.
;
2. sj ;
3. T = T0 ;
4. (3);
5. 4. L (
) T;
6. 4 ,
, .
T . , .
.
:
T0;
T
Ti = Ti 1, i = 1, 2, , 0.8 < < 0.99;
Tk.
100
4.4.
: , , , , ..
.
f : A N M , A N-
f [ A] M- Yl = f ( X l ) ( X 1, Y1 ), ..., ( X l ,Yl ), ..., ( X L ,YL ) . 1 1 L M (l )
: F (W ) =
( y j y '(jl ) ) 2 .
L 2 l =1 j =1
,
, .
W*,
F(W*) = Fmin.
, K .
N , xi X A , .
(l) .
K- M
Y = {yj } Y f[A], Y = {yj}.
, .
101
.
,
. , .
, .
Skj j- k- , Mk
k- . , ,
. . ,
,
, .
, . .
, , .
, ,
. ,
.
/ , ,
. ,
.
102
. 4.8 . , , , . .
, , , . , , ,
. , . 4.8, .
;
.
. 4.8.
. . 4.9 , . ,
, .
, , .
. ,
,
,
, .
, 103
, .. . . ,
, ..
.
;
.
. 4.9. .
. 4.10 ,
,
. , , ( . 4.10 !),
-. .
,
, .. .
, .
:
1) ,
, ..
;
2) , .., ,
, ,
.
104
. 4.10. .
-
,
, . ,
, .. .
.
, , .
X = [x(t
T
1), x(t 2), , x(t p)]
1
z .
t- p , t 1, , t p
.
, , 105
, .
,
. .
,
:
, ;
.
, , - .
.
1. . ,
. .
2. . ,
.
4.5.
, ,
,
. .
, , .
106
, .
, , ,
,
, .
, , .
, .
,
.
, .
. 4.11.
p
T
, X = [x1 x2 xN]
N- . .
, M K . ,
, .
.
MK Wj = [wj1 wj2
T
wjN] , j , j = 1, 2, , MK.
107
x1
x2
xN
y1
yK +1
y(M 1)K +1
y2
yK +2
y(M 1)K +2
yK
y2K
yMK
. 4.11.
. ,
, ,
, , .. . -.
, ,
,
, , , , .
, -
.
-
. ,
, , 108
. .
. - ,
, .
i(X) , X, .. i( X ) = arg min j X W j ,
j , i(X)
- X.
1. Wj(0), j
;
2. X(t);
3. -
. - i(X)
arg minjX(t) Wj, j ;
4. i(X) ;
5. ,
-:
6. W j (t + 1) = W j (t ) + (t )i ( X ) (t )( X (t ) W j (t )) ;
7. .2, .
1.
2.
3.
4.
:
, .
.
.
.
109
5.
() .
OLTP, , OLAP Data Mining.
5.1.
, , ,
,
,
.. , , , ,
,
.
.
( , )
(. 5.1).
.
-,
:
,
;
, ,
,
110
, , , ,
;
;
,
- ,
- :
;
;
, ,
..
. 5.1.
(
, )
(111
).
,
,
.
-,
,
( ) OLTP. , (), OLTP ( - )
.
, :
, , , ;
, , , . ., .
, ,
,
.
:
() ;
112
,
, ;
;
"" , ;
..
,
:
;
;
;
, .. .
, ( ) (. 5.2).
:
( .. )
, , ;
, ,
;
113
, .
, .
:
,
. 5.2.
,
, ,
();
, , 114
,
.
,
"",
() ,
.
, .
, , ,
, , .. (. 5.3).
,
, . ,
() , ,
.
( ) (), , (. 5.4).
115
DM
DM
DM
1.
;
2. :
;
3. ( );
4. .
1.
;
2. ;
3. ;
4. ;
5. .
DM
DM
1. ;
2. ;
3. ;
4.
5.- .
1. ;
2.
;
3. - ;
4. .
. 5.3.
()
. 5.4.
- , 116
, . , ,
,
.
, , , , .
, ,
,
.
,
- ( "", ).
,
, ,
. , ,
( );
, ..
:
, .
,
117
(), . 5.5.
( , ), OLTP. , (), OLTP
(
) .
OLTP-
,
:
- ,
() ();
;
.
-
,
OLTP- ( )
().
-, , , , .
, .. .
118
, ,
Data Mining
(
)
OLAP
( )
,
,
Data Mart
( )
Data Warehouse
( )
OLTP,
(,
)
. 5.5.
:
1) :
,
- , . 119
, , , .
2) :
, .
3) : , , .
4) :
10-15 ,
.
.
5) :
OLTP-
; ,
.
(). () :
. . , (, ,
. .);
, , ;
, , .
.
120
1993 . . . . FASMI, , OLAP-
:
Fast ()
;
Analysis ()
, ;
Shared ()
,
.
Multidimensional () ,
OLAP;
Information () ,
.
OLAP ( , ). OLAP- :
,
(
);
, ;
, .
, OLAP
()
, , .
121
, OLAP
.
, ,
.
, OLAP.
, ,
, ,
.
, .
, - .
,
, (. 5.6):
,
( , );
( );
,
,
, (
);
122
,
( )
()
, .
.
() ()
:
, , ,
: , ,
, ,
(On-line Analytical Processing)
- , , ;
- ;
- ;
- .
, ,
( )
, ( )
Internet/Intranet, "-"
: ,
Gateway
Satellite
Regional
Office
Multiplexer
Modem
Microwave
Link
Satellite Dish
Satellite Central
Office
: ,
. 5.6.
,
(
).
123
,
, .
( ) , .
,
(
),
(, ) , (
, . .).
OLAP.
: ; ( ,
"" ""),
; , ;
,
.
, ,
.
,
, . 5.7.
,
, , () ,
:
124
()
,
( ), , ;
Data Mining
( )
Data Mart
( )
OLAP
( )
Data Warehouse ( )
OLTP ( )
. 5.7. ""
() ,
, ;
() ,
(, , ,
. .).
, . .
(. 5.8):
, , , (), - ;
, , ( );
125
. 5.8.
,
;
, .
:
, () ,
;
() ,
,
;
- () , ;
126
() ,
;
, ,
( . 5.8 ).
,
.
, .
,
, ,
, .
, , ,
, , ,
,
.
,
3-5 .
. , , 6 20 .
,
,
.
, :
127
,
,
; , , 90- ,
.
5.2.
(Data Mining) - , , , , .. -
, , , .
:
,
, .
- .
- , , .
- , .
"" .
. 128
. ,
, .
.
, . .
- .
.
.
. ,
80% -. ,
,
, ,
.
, . ,
.
. , . ,
.
. -
.
.
.
. , , ,
.
.
129
: , , , k- ,
, , , - ; , ,
k- k-;
, Apriori; , ,
.
, - . , . ,
.
:
1. ( ).
. .
- , , .
: ; ; .
2.
( ). .
:
; .
.
130
( )
, , ,
.
( )
( ) ().
, . - .
3. -
, . , , - . , .
:
;
, - () ;
: ;
; ; .
-: , () , - ;
-
;
: ,
; ; ( , ); ; ; .
131
5.3.
. ,
- ; . : ; k- ; ; ; .
, , .
.
. :
, , .
. ,
, ,
, .. . , .
.
, - , , .
.
-
.
. 132
, .
- , - .
5.4.
.
.
:
;
;
;
;
;
;
;
.
1.
.
- .
.
2.
:
.
.
. ,
.
, . ,
133
,
.
.
3.
: .
,
.
80% , . :
;
;
;
, .
, , / . / ,
/.
,
, .
.
, . , - , . , ,
.
() .
.
. 134
.
, . , . , . , , . ,
- . , , , .
,
- "" .
- , , , .
: , .
, - , (,
, ). .
, , , , , , .. ; ,
,
. :
,
;
, ;
135
, ;
, .
, .
:
;
;
.
, : ; .
:
;
;
;
.
.
.
. , .
. , . , , .
.
. , . - ,
.
136
,
.
- - .
,
.
.
,
.
. /
, .
.
- . ,
. , .
. - -
. , .
.
.
, , .
, 137
, .
, .
.
,
.
, :
;
;
;
;
.
4.
. .
, ,
( ) .
"" "
", (.. ), , .
, , , . , , , .
138
. , . , , .
,
.
.
,
.
.
, -
. :
, , , ; .
( )
.
, ,
, , , , .
, ,
" ". - " ".
5.
. . .
139
-
.
, , ,
.
, , .
.
.
,
.
.
.
"" , , , - . .
. , . ,
, .
, ,
, . ,
.
.
( ), , .
-
140
, (, ).
. , , : , ,
.
, .
6.
, . ,
, .
.
,
, - .
, .
" ", .
7.
,
. , .
() .
8.
141
, , ""
.
,
. ,
, (
).
. ,
().
.
. ,
, .
, , .. , .
:
;
;
;
,
;
(,
, - ,
..).
, , ,
.
5.5.
,
.
,
, , ,
,
, . 142
- ,
.
- ,
, ,
.
- , , , .
, :
;
IT ;
;
;
;
;
.
. . : . ,
.
1. .
- , , ,
.
, .. , ,
, , .
, .
, " -" .
143
(, ).
2. / .
- ,
. ,
, . () .
() .
.
( ) .
3.
, ,
.
4.
5.
-
6. .
,
.
7. .
.
8. ,
,
144
,
.
9. .
10. . .
11. , . -
,
. , . ,
. , , .
12.
. Data Mining
, . ()
( ),
,
.
13.
.
14.
( ),
.
15. , ,
.
,
. (), .
145
.
, Data
Mining. . , ,
,
, . -
.
16. , .
Data Mining , .
17. , .
1.
2.
3.
4.
.
.
.
.
146
1. :
, ;
;
.
2. :
;
, ;
.
3. :
;
;
;
.
4. :
(
) ;
, ;
.
5. :
;
, ;
,
.
6. , , :
;
;
147
() ,
(),
.
(), , ,
(. .1).
C
. .1.
,
. , .
, , ( ).
(, , . .).
,
. .
148
, ,
(). , .
, :
;
;
( )
;
, , ;
,
, ,
;
, , ;
/ ,
, ;
, ;
,
, , (.. , );
,
/ .
149
:
,
;
;
, , , , .
, , .
,
:
0 ,
;
1 . ,
, .
2 . , ,
.
.
3 . ,
.
4 . ,
.
,
.
150
()
,
, ..
.
1. . , ,
, .
2. , , .
3. ,
, .
, , ,
,
, .
, . 4
: , , .
()
, .
,
.
( ). .
, ,
.
151
, . . .
:
,
(
) ;
;
;
, ;
;
;
.
:
.
: ,
; ,
, ,
.
,
( ), ,
,
.
, , .
152
, , .
: ; ;
.
, . :
, , ;
: () ;
.
, ,
:
;
;
.
, .
, .
,
.
153
1. .., .. . .:
2004.
2. . . : , , . - .: , 2004.
176 .
3. .., .. : . . - .: -
. .. , 2005. - 304 .
4. . Prolog . .: , 1990.
5. .., .. . .: , 2000. 384 .
6. A.M., ..
: 2- . . 1. : .
. - .: , 2006. - 336 .
7. .. : . . .: - , 2003. - 96 .
8. .. : , , , . . .: , 2006. - 320 .
9. , . : . - .: ,
2006. - 1408 .
10. ..
. .: , 2003. 496 .
11. .., .., .. . - .:
, 2003. - 512 .
12. .. .
.: , 2004.
13. ., . . . 1.
. .: ,
1990. 447 .
14. ., . . . 2.
. .: , 1990. 319 .
154
, .
(, ) , .
,
, .
-
.
, .
-, , , , .
, , .
155
4.
. . ,
.
. , .
. ,
, , . . .
,
.
1.
1.1.
. .
,
. .
, .
. . .
.
. .
1.2.
().
, .
.
.
1.3.
- . .
156
. .
.
1.4.
.
. . , .
.
1.5.
. , .
. S- - .
. .
. , ,
. .
2.
2.1.
.
. . .
: , , , .
, . .
.
2.2.
. . : , , , , , . 157
. : , , .
. : .
2.3.
.
. .
. . .
3.
3.1. .
. . . .
3.2.
. .
. .
.
3.3.
, .
. . . . .
4.
4.1.
. , . . .
4.2.
.
. . . .
158
4.3.
. . . .
4.4.
. .
. - .
4.5.
. . .
.
5.
5.1.
() .
, , .
. . OLTP, ,
OLAP.
5.2.
,
. . , .
.
.
5.3.
: , , , . :
, , , , .
. : ,
. , . .
5.4.
: , , , .
:
159
, , , .
: , , , .
5.5.
. . , .
.
.
.
.
160