6.

1
6.2
6.3 BP
6.4 Hopfield
6.5
6.6
6.7
6.8

(1)
(2)
(3)
(4)
(5)

6.1

01

j 1

k 1

vi (t ) aij y j (t ) bik u k (t ) wi
vi (t ) wi

V (t ) AY (t ) BU (t ) W

A aij N N B bik M M V v1 ,, v N
T

T
T
Y y1 ,, y N U u1 , , u M W w1 ,, wN

xi (t ) h(t t )vi (t )dt

X i ( s ) H ( s )Vi ( s )
1
1
Ts
H (s ) 1 s 1 Ts e

vi (t ) xi (t )

x i (t ) v i (t )
x i (t ) vi (t )

Tx i (t ) xi (t ) vi (t )

x i (t ) v i (t T )

y i g ( xi )

6.2

1 ()
2
3
4

1()

()


1Hebb
2Delta
3

1Hebb
Hebb

u j u i

wij ai y j

( >0) y j (t ) f j a j (t )
u i ai (t ) u j a j (t )

2Delta

wij ( d i ai (t )) y j (t )
( d i yi ) y j (t )
y j (t )
d i y i

s j ij x j
j

1 0

xj

ij ij
m

0< 1
m 1

6.3 BP

()

1.

y j (t ) f w ji (t ) x i j
i 1

y j (t ) t

xi

w ji (t ) t i
j f

w ji (t 1) w ji (t ) d j y j (t ) xi
(8-14)
(01)
d j ()
j

1, d j 1

d j y j (t ) 0, d j y(t )

1,d j 0, y(t ) 1

xi 1 0

2. BP
1BP
BP

BP ()
S

f ( x)

1
1 ex

k
k
u
y
k i i i

y ik f (u ik )
u ik wij y kj 1
j

k 1,2,, m

BP

1 n
J (d j y j ) 2
2 j 1

d j y j

wij

J
( 0)
wij

 BP

J
ij

k
J
J u i
J
J
k
k
( wij y kj 1 ) k y kj 1
wij u i wij u i wij j
u i

wij d ik y kj 1
J
J yik
d k k
ui
yi uik
k
i

f () S
yik f (u ik )
y ik
u ik

df (u ik )
duik

1
1 e

uik
k

e ui

1 e uik

d ik yik (1 yik )

J
yik

y ik (1 y ik )

y ik
k
m
y

y
i
i ( m ) k m i

J
yik

J
yim

yim d i

d im yim (1 yim ) yim d i

i k
J
y ik

u lk 1

u lk 1 y ik

wlj d lk 1
l

d ik y ik (1 y ik ) wlj d lk 1
l

BP

d im yim (1 yim ) yim d i

d ik yik (1 yik ) wlj d lk 1

l

wij d ik y kj 1

6.4 Hopfield

Hopfield
HopfieldHopfield

Hopfield

xi (t ) t

1, H i (t ) 0
xi (t 1) sgnH i (t )
1, H i (t ) 0
n

H i (t ) wij x j (t ) i ,1 i n
j 1

wij i j i
i
Hopfield
1 N
E
2 i 1

j 1
j i

i 1

wij xi x j i xi

x i x j

 m E
x m 0 E1

1 N
E1
2 i 1

im

j 1
j i

i 1
im

wij xi x j i xi

xm 1 E 2
1 N
E2
2 i 1

im

j 1
j i

i 1
im

j 1
j m

wij xi x j i xi wmj x j m

01 E E
N

E E 2 E1 ( mj x j m ) 0
j 1
jm

1 0 E
E E1 E 2

mj x j m 0
j 1
j m

E <0

Hopfield
Hopfield
N
dui
1
ui Ci
I i wij v j
Ri
dt
j 1

vi f (u i )

1
1 e 2 ui / u o

i 1,2,, n

I i
wij 1 / Rij

f (u i )
S

 Hopfield E(t )
1 n
E (t )
2 i 1

j 1

i 1

wijVi (t )V j (t ) Vi (t )I i

i 1 Ri

Vi ( t )

f 1 (v )dv

1
( wij w ji ) f (v)

n
dE(t )
E dVi

dt
i 1 Vi dt

E
1

2
Vi
2

j 1

wijV j (t ) I i

1
ui
Ri

du
du dVi
dV d 1
E
Ci i Ci i
Ci i
f Vi
Vi
dt
dVi dt
dt dVi
n
df 1 (Vi ) dVi
dE(t )
Ci

0
dt
dVi dt
i 1
2

6.5

 x1 x 2

( x1 0.05 x2 0.02)
Sigmoid
O

1 exp( xi i )

x i
wi

(1) (8-30)
0

O12
O22
O32

1
0.507249
1 exp[ (0.05 0.5) (0.02 0.20 ) 0.0]

1
0.507999
1 exp[ (0.05 0.4) (0.02 0.60 ) 0.0]

1
0.502250
1 exp[ (0.05 0.10 ) (0.02 0.2) 0.0]

:
O13

1
0.569028
1 exp[ (0.507249 0.10 ) (0.507999 0.20 ) (0.502250 0.25 ) 0.0]

O23 0.641740
O 0.658516
3
3


1
1 exp[(0.569028 0.30) (0.641740 0.35) (0.658516 0.45) 0.0]
0.666334

O14

O24

1
0.635793
1 exp[ (0.569028 0.35 ) (0.641740 0.25 ) (0.658516 0.30 ) 0.0]

(2)

R1 E14 O14 O14 actual 0.666 3341.0 0.333 666

R 2 E 24 O24 O24 actual 0.635 7930.00.635 793

Eik Oik (1 Oik ) ilk Elk 1

l


E13 O13 (1 O13 )(113 E14 123 E 24 )

=0.569028(10.569028)[0.30 (0.333 666)+0.35 0.635 793]

=0.030 024
3
3
E 23 O23 (1 O23 )( 21
E14 22
E 24 ) =0.009 694
3
3
E33 O33 (1 O33 )( 31
E14 32
E 24 ) =0.009 127

E12 0.002882E22 0.003390E32 0.003609

3
wilk ( new) wilk (old ) E lk 1 x ilk ,k 1
k

wil k i ( k 1 ) l
k l
E
=0.3, l ( k 1 ) l

k , k 1
x
il
k i ( k 1 ) l


3
3
34
w11
w11
(old ) E14 x11

=0.3+0.3 (0.333 666) 0.569 028 = 0.243 040

3

w21w31w12w22w32

( x1 0.05 x 2 0.02)

6.6
u f yd

y g[ f yd ]

y
y d

g 1

6.7

x(k 1) A x(k ) B u (k )

y ( k ) C x( k )

e j (k ) y

(k ) y p (k )


(1)

(2)

(3)
L

J ( ) f e(k )
k 1

f e(k ) e 2 (k )

e(k)

(1) :

()

y p (t 1) f y p (t ), , y p (t n 1); u(t ), , u(t m 1)

y (t 1) f y p (t ), , y p (t n 1); u (t ), , u (t m 1)
m

f f

m
p
y

y (t 1) f y m (t ), , y m (t n 1); u (t ), , u (t m 1)
m

(2)
C

p y p r

p
C y r


1
(1)

+ XM

e
Xp

xm a m xm bm r

x p a p x p b p u

a m bm a p b p

xp a xp br

a bp g a p

b bp g

e x m x p

a m a

bm b

(2)

 a b
x(k 1) ax(k ) bu(k )
x(k ) u(k )

x(k 1) cx(k ) dr(k )

r (k )
u(k )

ca
d
x(k ) r (k )
b
b

a b

u (k )

ca

x( k )

r (k )

a b a b

3
(1)

(2)
()
y(k 1) f y(k ) g y(k )u(k )

f y(k ) g y (k ) f y(k )
g y (k )

f y(k ) g y (k )

u (k ) { y d (k 1) f y(k ) } / g y (k )
y d (k 1) k +1

6.8

3
x( k ) K u 3 wi ( k )u i ( k ) / wi ( k )

i 1
u( k ) f x( k ) U max

1 e x( k )
1 e x( k )

U m ax

 PID
k

u( k ) K p e( k ) K I T e(i )
i 1

KD
e(k ) e(k 1)
T

K P K I K P / T I K D
K P TD
k

e(i )
u1 ( k ) T
i 1

u 2 ( k ) e( k )
u ( k ) e( k ) e( k 1) / T e( k ) / T
3

vi (k ) e(k ) u(k ) ui (k )

wi (k 1) wi (k ) i vi (k )


w1 0 w2 0 w3 0

K K K

K
) i (i= 123) P I D

K
I D
P
P D

PID
PID