Professional Documents
Culture Documents
1. .
1.1
1.2
1.3
1.4
1.5
2.
2.1
2.2
2.3
2.4
2.5
3.
4.
4.1
4.2
4.3
4.4
4.5
4.6
4.7
4.8
4.8.1.
4.8.2.
4.8.3.
4.8.4.
4.8.5.
4.9
4.9.1.
4.9.2.
4.9.3. ,
4.10
4.10.1.
4.10.2.
4.10.3.
4.10.4.
4.10.5.
4.10.6.
4.10.7.
4.10.8.
4.11.
4.11.1.
4.11.2.
4.11.3.
. ,
, , ,
, .
. (1948).
, . ,
. , (1928), . . .
,
(1933)
(1946). . . . ,
,
(1941).
(. . , . . , . . , . .
, . . , . . , . . .),
(. , . , . , . . , . . , . , .
.).
, ,
. :
;
,
, , .
,
.
, . (,
, )
, .
- .
. ,
. ,
,
.
, .
.
1. .
1.1
1950- (
)
.
:
- , , ,
.
, ..
, . .
() ( ),
.
, , ,
- .
, ,
, .
1.2
:
1) ;
2) ;
3) ;
4) ;
5) ;
6) .
.1.1
- (), ,
. .
,
(, - ..).
,
.
( ).
,
.
.
1.3
.
(). ,
, .
, .
.
, ,
, , , , ,
. :
, -, . ,
-
, . , ,
, :
. . ()
.
-.
, ()
(). -,
, .
(),
. (), .
, , , ,
, . ,
. , ,
.
- ,
. -
.
1.4
.
, .
() ( ) () (,
- ..), .
. 1.2. .
.
- .
,
- .
.
, (,
).
.
, () .
, ,
.
.
,
, .
, . ,
, .
, ,
.
,
- .
.
, .
.
. .
(, , ..),
.
()
, .
, , ,
.
, .
.
-,
.
, ,
.
1.5
:
- ,
;
-
,
, .
():
1.
.
2. .
,
. ( ).
3. ,
.
4. ,
. ,
,
.
5. ,
, .
2.
,
.
, .
m ,
. N n
:
N = mn
N ,
N
1/N.
, N,
.
N . ,
, , .. ,
(,
- , , ).
:
I = log N = log mn = n log m.
:
. 1928 .
, (, ),
:
H=
I
n
n log m
n
= log m
,
, . . loga m =loga b logb m
.
,
, , ..
:
H0 = log2 m.
. ( )
(bit
. binary digit )
log2 m = 1 m = 2, , 1 - ,
0 1.
n n .
, 8 , .
,
- , 1 = log102 = 3,32 .
1. ,
, . 625 , ,
, 600
, 8
1 .
. , ,
: n = 600.
() ,
,: m = 8.
: I = n log m = 600 log 8,
: I = 625 I = 625 600 log 8 = 1,125 106
2. ,
, 27 ,
.
. ,
, ,
, : H1= Iog227 .
( , ,
). (
), ,
: H2= Iog23 .
1=32= 3 1og23,
.
.
.
, , , ,
. , ,
, . , ,
.
.
.
, n xi
ni , .. :
Pi =
ni
n , (i = 1, 2, 3, ... , m).
, :
m
Pi = 1
i=1
.
n, xi ni , i = 1, 2, 3
... ,m, n ,
{n1, n2, ..., nm}. :
N=
n!
n1 ! n 2 !... nm ! .
, 10 , 3 , 5
2 ,
10 !
3!5 ! 2 !
= 2520
:
I = log N = log n! - (log n1!+log n2!+...+log nm!).
n
:
log n! n(ln n - 1).
m
ni = n
, :
i=1
m
m
I = ln N = n(ln n 1) ni(ln ni 1) = n ln n ni ln ni =
i =1
i =1
m ni
m ni ni
ni
= n[ ln n + (ln + ln n )] = n( ln n + ln +
i =1 n
i =1 n
n
n
m ni
m ni ni
+ ln n ) = n ln
i =1 n
i =1 n
n
,
:
m
I = n Pi log Pi;
i=1
m
H = Pi log Pi
i=1
I H
2.
2.1
i = 1/m :
m
m1
1
1
H = Pi log Pi = log = ( m )( log m) = log m
i =1
i =1m
m
m
.
,
m
.
,
, ni
i ( i =ni / n) . 2.1:
2.1.
x1
x2
...
xm
ni
n1
n2
...
nm
(, ..).
,
( ),
.
m
m
1
H = Pi log Pi = Pi log
i=1
i=1
Pi
log 1/Pi ,
i, H - .
(Pi log Pi) i H.
Pi=1 , ,
Pi ( ): .2.1.
Pi
: Pi e = 1, -
.
1
log e = 0,531
., .
(0,37; 0,531)
- , , .. 0 (
, Pi log 1/Pi).
, (
, ,
).
, , .. max = log m.
,
, .
. , ,
0,99 0,01, ,
, . ,
( , 0,99),
,
. ,
.
3. (1) = 0,1 (x2) = 0,1 (x3) = 0,1 (x4)
= 0,7. , ,
.
,
: (0,1). m = 2 : 1+2 = 1. 1 = ,
2 = 1-.
:
H = P1 log P1 P 2 log P 2 = P log P (1 P ) log(1 P )
, 1 ,
, .. = 0,5,
.(.2.2).
. 2.2. (1)
(2,3): - (1 - ) log (1 - P) - P log P .
4. ,
( ), , 2.2,
,
.
2.2.
0,064
0,010
0,056
0,016
0,015
0,029
0,021
0,003
0,039
0,036
0,02
0,007
0,014
0,026
0,09
0,019
0,026
0,056
0,04
0,143
0,074
0,096
0,013
0,008
0,024
0,006
0,015
0,041
0,003
0,064
0,047
0,015
. 1. m = 32
, ,
H = log m = log 32 = 5 .
2.
, . 2.2 ,
:
m
H = p i log p i =
i =1
,
5 4,42
5. Y :
2.3.
i
0,5 0,7
0,9 0,3
0,25
10
15
0,25 0,25
8
0,25
.
. .
,
() = (Y) =
m
p i log p i =
i =1
-
4(0,25log0,25) = -4(1/4log1/4) =
= log 4 = 2
2.2
.
, .
.
. ,
. .
. -, , ,
. -,
,
. , ,
. , ,
,
,
,
.
1, x2, ... , xm Pi = p(xi)x (i = 1, 2, ... , m).
:
m
m
m
H = p ( xi ) x log p ( xi ) x = p ( xi ) x log p ( xi ) p ( xi ) x log x
i =1
i =1
i =1
x 0 :
p( x )dx = 1
H ( x ) = p( x ) log p( x ) dx logx
,
. , .
,
( ).
, ,
, .
logx x,
, x =const .
().
,
().
, :
2
= x p( x ) dx = const
,
:
p( x ) =
x2
2 2
,
.
(
) ,
.
,
, , .
. ,
:
x2
x2
2
1
1
2
H=
e 2 ]dx log x =
e 2 log[
2
e 2
= log( 2
= log(
x2
2 2
dx +
log e
x2
2 2
dx log x ) =
2e )
,
b , .
1
b a
0
() =
a x b
x < a, x > b
H p (x) =
b
1
ba
x ) dx = log
log(
baa
ba
x
1
(b a ) 2
=
12 , (b-a) = 2 3 p .
2
p
H p ( x ) = log(
p
x
2 3)
() = (), :
p2 =
e 2
1,42 2
6
,
42% ,
.
7. ,
0 , x 0
2
x , 0 < x 1
1, x > 1
() =
8.
,
. ,
, .
.
,
, , , .
, ,
, :
H ( x ) = log(
2 e ) = log(
x = 1 , x
2 e )
, .. 2 - , ,
1.
:
log
() =
ba
x
2
2 (b a )
,
h =
12
H ( x ) = log(
b a = 2 3 , ,
2 3 ) = log( 2 3 ),
, x = 1
log(
H ( x ) = H ( x ),
2e ) = log( 2 3 ),
2
2e = 12 ,
2
1,42
, .. , ,
42%.
, ..
, , 42%.
2.3
, , ..
.
= (1, x2, ... ,xr)
Y = (y1, y2, ..., ys) ,
(i) p(yj),
pxi(yj), pyj(xi), i = 1, 2, ... , r ; j = 1, 2, ... , s.
() , Y
. , (X, Y) D,
(X, Y) D.
. 2.5.
2.5.
Y
X
xi
yj
y1
y2
...
ys
x1
11
12
...
1s
x2
21
22
...
2s
xr
r1
r2
...
rs
ij - ,
= xi, Y = yj.
r s
Pij = 1
i =1 j =1
.
(, Y)
(x, y).
(,Y) D
P[( X , Y ) D ] = p ( x , y ) dxdy
D
.
:
1)
(x,y) 0
p( x , y ) dxdy = 1
2)
(X,Y) D,
p ( x , y ) dxdy = 1
D
.
Y = yj (yj
)
Pyj(x1), Pyj(x2), ... , Pyj(xr)
Y.
X Y :
Pxi ( y j ) =
Pyj ( x i ) =
P( x i , y j )
P( x i )
P( x i , y j )
P( y j )
,
.
yj xi
Px ( y j ) =
i
P( x i , y j )
P( x i )
X Y :
r s
H ( X , Y ) = P( x i , y j ) log P( x i , y j ) =
i=1 j =1
r s
= P( x i )Px ( y j ) log[P( x i )Px ( y j )] =
i
i
i=1 j =1
r
s
r
s
= P( x i ) log P( x i ) Px ( y j ) P( x i ) Px ( y j ) log Px ( y j ).
i
i=1
j =1 i
i=1
j =1 i
s
Px ( y j ) = 1
j =1 i
Y: Pxi(yj) = P(yj)
HX(Y) = (Y) , , (,Y) = H(X) + H(Y).
Y , .. xi yj, (xi,yj)
i = j i j. X(Y) = 0, , , (X,Y) = (),
.. .
r
s
H X ( Y ) = P( x i ) Px ( y j ) log Px ( y j )
i
j =1 i
i=1
,
. Y = X,
r
s
H ' = P( x i ) Px ( x j ) log Px ( x j ).
i
j =1 i
i=1
, 0 1. ,
, : 0 = log m = log 2 = 1 .
, , (0)=, (1) = ,
m
H = Pi log Pi = P( 0) log P( 0) P(1) log P(1) =
i=1
3
3 1
1
= ( log + log ) = 0,815
4
4 4
4
, , ,
0(0) = 2/3; P0(1) = 1/3; P1(0) = 1; P1(1) = 0,
, , ..
H<H.
9:
:
2.6.
Y
X
3
0,17
0,10
10
0,13
0,30
12
0,25
0,05
Y.
: 1) ,
:
(3) = 0,17 + 0,10 = 0,27
P(10) = 0,13 +0,30 = 0,43
P(12) = 0,25 + 0,05 = 0,30.
:
2.7.
10
12
P(xi)
0,27
0,43
0,30
Y:
2.8.
Y
P(yj)
0,55
0,45
: 0,55 + 0,45 = 1
10: (X,Y):
2.9.
Y
X
x1 = 2
y1 = 0,4
y2 = 0,8
0,15
0,05
x2 = 5
0,30
0,12
x3 = 8
0,35
0,03
: ;
, Y y1 = 0,4;
Y , 2 = 5
: 1) , .
2.10.
2)
P(x)
0,20
0,42
0,38
, Y.
2.11.
3)
0,4
0,8
P(y)
0,80
0,20
Y y1 = 0,4
Py1 ( x1 ) =
Py1 ( x 2 ) =
Py1 ( x 3 ) =
P ( x1 , y1 )
P ( y1 )
P ( x 2 , y1 )
P ( y1 )
P ( x 3 , y1 )
P ( y1 )
0,15
0,80
0,30
0,80
0,35
0,80
3
16
3
8
7
16
:
2.12.
X
Py1(xi)
3/16
3/8
7/16
0,4
0,8
Px2(yj)
5/7
2/7
: 5/7 + 2/7 = 1.
11: ,
X Y, :
2.14.
Y
y1
y2
y3
X
x1
0,4
0,1
x2
0,2
0,1
x3
0,2
r
H ( X ) = P( x i ) log P( x i ) = ( 0,5 log 0,5 + 0,3 log 0,3 +
i =1
+ 0, 2 log 0, 2 ) = 1,485
3.
Y:
s
H ( Y ) = P( y j ) log P ( y j ) = ( 0, 4 log 0, 4 + 0,3 log 0,3 +
j =1
+ 0,3 log 0,3) = 1,57
4. Y ,
:
r
s
H ( Y ) = P( x i ) Px ( y j ) log Px ( y j )
i
i =1
j =1 i
yj i
Px ( y j ) =
i
P( x i , y j )
P( x i )
Y ,
x1:
Px ( y1 ) =
1
Px ( y 2 ) =
1
P( x , y 1 )
1
P( x 1 )
P( x 1 , y 2 )
P( x 1 )
0, 4
0,5
0,1
0,5
= 0,8
= 0, 2
Px ( y 3 ) =
1
2:
Px ( y 3 ) =
2
P ( x1 )
Px ( y 2 ) =
3
Px ( y 3 ) =
3
0,5
=0
P ( x 2 , y1 )
P( x 2 )
P( x 2 , y 2 )
P( x 2 )
P( x 2 , y 3 )
0, 2
P( x 3 )
0
P( x 3 )
P( x 3 , y )
3
P( x 3 )
=0
0
0,2
=0
=0
0,2
0,2
0,3
= 0,33
0,3
P( x 3 , y )
1
P( x 3 , y )
2
= 0, 67
0,3
0,1
P( x 2 )
Px ( y1 ) =
3
Px ( y1 ) =
2
Px ( y 2 ) =
2
3:
P ( x1 , y 3 )
=1
0,2
, ,
Y :
s
r
H Y ( X ) = P( y j ) Py ( x i ) logPy ( x i ).
j
j =1
i =1 j
Py ( x i ) =
j
1:
P( y )
j
Py ( x1 ) =
1
Py ( x 2 ) =
1
Py ( x 3 ) =
1
2:
P( x i , y j )
P ( x1 , y1 )
P ( y1 )
P ( x 2 , y1 )
P ( x 3 , y1 )
P ( y1 )
0
0, 4
0, 4
0, 4
=1
=0
P( y 2 )
=
=0
0,4
P ( x1 , y 2 )
P( x 2 , y 2 )
P( y 2 )
P ( y1 )
Py ( x1 ) =
2
Py ( x 2 ) =
2
0, 2
0,3
0,1
0,3
= 0, 67
= 0,33
Py ( x 3 ) =
2
3:
P( x 3 , y 2 )
P( y 2 )
Py ( x 1 ) =
3
Py ( x 2 ) =
3
Py ( x 3 ) =
3
0
0,3
=0
P( x 1 , y 3 )
P( x 2 , y 3 )
P( y 3 )
P( x 3 , y 3 )
P( y 3 )
P( y 3 )
=
0,1
0,3
0, 2
0,3
0
0 ,3
=0
= 0,33
= 0, 67
6. Y:
r s
H ( X , Y ) = P ( x i , y j ) log P ( x i , y j ) =
i =1 j =1
= ( 0, 4 log 0, 4 + 0,1 log 0,1 + 0, 2 log 0, 2 + 0,1 log 0,1 + 0, 2 log 0, 2) =
= 0,529 + 0,332 + 0, 464 + 0,332 + 0, 464 = 2,12 .
:
(,Y) = H(X) +HX(Y) = 1,485 + 0,635 = 2,12
(,Y) = H(Y) +HY(X) = 1,57 + 0,55 = 2,12
12: () = 5; (Y) = 10.
, (Y)
.
:
.
:
. 2.5.
, (Y) = (Y) = 10 , Y(X) = H(X) = 5
, , , (X,Y) = H(X) + H(Y) = 5 +10 = 15 . ..,
(Y) = (Y) = 10 .
(Y) Y(X) :
. 2.6.
,
.. xi j , .. (xi, j) i = j i j.
. 2.7.
(Y) = (Y) - () = 10 - 5 = 5 . (Y) 10
5 y() 5 0 .
13: () (Y), (1,y1) = 0,3; P(x1,y2) = 0,2;
P(x3,y2) = 0,25; P(x3,y3) = 0,1
14: (), H(Y), H(X,Y), (1,y1) = 0,2; P(x2,y1) = 0,4;
P(x2,y2) = 0,25; P(x2,y3) = 0,15
2.4
Y
. Y
.
Y ,
: () = (Y).
Y(X).
: (,Y) = () Y(X)
(,Y) .
Y , ,
, .. Y(X) = (),
:(,Y)=0.
Y , .. , Y(X) = 0 (,Y)
= H(Y).
,
.
1<2, ,
, .. I = n1H1 = n2H2, n1 n2 -
.
n2
n1
H1
H2
,
.
, ,
,
.
:
r=
H 2 H1
H1
=1
=1
H2
H2
, , 32 (. ),
, 32 ,
, , 0 = log 32 = 5
, H =
4,42 , H = 3,52 , .. H< H < H0
:
1) , r = 1 - H/H;
2) , r = 1 - H/ H0;
3) r0 = 1 - H/ H0
r0 = r + r - rr
, ,
, (
) 50% (r0 =1 - H/ H0 = 1 - 3,52/5 = 0,30).
, ..
. .
(
) (
) .
. 1, 2, Q - -
,
1 C 2 86 52 Q . ,
,
, ,
. ,
.
. ,
,
/ 40- . XX . -, ,
,
.
-. 1977 .
,
.
. :
( ), ,
.
. . .
Zip. : RAR, ARJ, ,
TAR, LHA . . Windows :
WinZip ( Internet http://www.winzip.com)
WinRAR, (
http://www.rarlab.com). WinRAR WinZip :
; ;
; .
.
WinArj ( http://www.lasoft-oz.com).
Cabinet Manager ( CAB, Microsoft
) WinAce (
).
DOS-
, .
, . ,
MS-DOS, Windows
( MS-DOS), .
, DOS- 8 ,
, .
, ,
: , . .
, , . .
, , , ,
,
. -
"" .
,
, . ,
, ,
, .
, , , BMP TIFF, ,
, , MS Word. JPEG
,
. .
- .
1. , , ,
, , ,
, .
2. , ,
, , ,
( ), ,
.
3. 3. , ,
.
, "" ,
, , ,
" ".
""
.
.
, ,
. , ,
. , 15
:
LLLLL
42 42 42 42 42 4 4 4 4 4 41 41 41 41 41
():
01 05 42 06 05 4 0 05 41
: "", 6
"L" 11 "".
9 , 6 .
.
,
.
,
, , ,
( ).
,
. ,
, Z, X Q . ,
,
.
ARJ, , PKZIP . ,
,
. , -
.
, .
, .
, .
, ,
. , TIF GIF, (
TIFF ),
.
, PostScript, BMP .
,
( 50
). .
, .
: .
.
(bitmap),
. GIF JPEG,
, BMP ( Windows) TIFF,
.
, .
.
, ,
, . ,
, ,
.
, ,
. ,
, , , .
, - .
AI Adobe Illustrator, CDR
CorelDRAW WMF ( Windows).
PCX TIFF, BMP, JPEG,
PNG, GIF. GIF .
( ).
,
, .
GIF , 256 .
.
, LZW -TIFF.
GIF, .
JPEG
LZW ,
. ,
,
. ,
1020 ,
.
1991 . Joint Photographic Experts Group,
,
JPEG.
, ISO/IEC 10918-1. JPEG
MPEG.
JPEG (Joint Photographic Experts Group)
.
, /.
JPEG : ,
9x9 .
, , ,
. , BMP.
, , .
JPEG
. , TIFF,
JPEG .
, JPEG
.
,
.
JPEG
:
1. 16x16 .
,
, .
2. .
RGB YCbCr, Y , b
.
. ,
: .
, . 20 , ,
, , , .
,
.
75% . ,
, 8x8.
3. (Discrete Cosine Transform, DCT),
. 1981 . , DCT
.
, (
0,90,98). DCT
. , ,
,
. DCT
.
DCT ,
.
, .
,
DCT ( ), (
) . ,
, ,
. ,
,
.
4. .
, .
.
JPEG
. , .
PNG
, .
,
, , . PNG
,
, .
PNG
-, GIF. 254 (
- ),
0 100%. , PNG
. , PNG GIF ,
700800 GIF.
PNG 1030%
, . ,
, .
PNG
JPEG GIF. -,
. GIF,
, PNG
, . . ,
, ( interlace).
-, -.
, . ,
(MS Windows Linux)
(, PC Macintosh).
. PNG : ,
( ) ,
PNG- .
TIFF
Macintosh.
, TIFF ,
. TIFF, ,
, .
.
, .
, Photoshop,
TIFF.
RAW
, , RAW.
raw (). , RAW
,
.
, = 255 = .
, . RAW
.
RAW ,
, , ,
, .
,
, .
RAW , ,
. ,
PC.
, :
,
.
, GIF, JPEG PNG .
,
.
,
JPEG, JPEG GIF PNG
. :
.
2530x3490 24 , 25,2 , JPEG
PNG ( , 256
, GIF ).
JPEG
70% .
25 .
, . PNG
.
, WinRAR 3.20,
.
, 256
(8,42 BMP), GIF.
JPEG, , ,
, , 24 . ,
8 .
GIF PNG ,
: RAR-
, .
GIF .
256 ,
.
, .
. ,
.
. ,
. ,
GIF .
CompuServe. JPEG. 100%- (204
) ( ).
6%- ,
PNG GIF, . , PNG- 20%
, GIF,
. WinRAR, 2
GIF.
. ,
LZW-, GIF. , ,
GIF 4 , , 90.
, PNG,
. GIF
10%.
-, . 2 (!)
.
.
GIF
, .
,
. GIF
.
:
. ,
, JPEG.
. .
GIF, .
PNG GIF .
8 GIF
( GIF , ). PNG ,
, ,
- , JPEG
.
GIF 95% ( 5%
PNG). GIF ,
. ,
-, . PNG
- -.
, PNG . , GIF
:
. , , PNG , a GIF
.
WinRAR.
,
. , .
, , ,
. ,
, GIF - . , .
Windows
, .
.
, MPEG DVD DivX, a RealVideo
. , CNN
.
MPEG-4 (
).
MPEG-4 (Motion Picture Experts
Group), no ,
. AVI,
, , :
, , , DivX, AVI.
.
, . , , ,
. ,
( RealVideo),
. , ,
.
. Windows XP Windows Media Player,
. -
,
.
,
.
, .
Real Player, RealVideo RealAudio ( RM, RA,
RAM) .
DivX ( DivXNetworks):
MPEG-4, .
RealVideo ( RealNetworks): RealVideo,
.
Windows Media ( Microsoft):
MPEG-4, Microsoft.
Windows Media Player: WMV,
ASF, AVI. MPEG, MPG, IVF, M1V, 1, 2, VOB .
Real Player: RM, RA, RAM,
MPG, MPEG, AVI, ASF, MID, MOV .
Quick Time Player: QT, MOV,
PNG, AVI, FIX, MPG, MPEG, MP1, MK .
Windows Movie
Maker. : ,
( ) .
. ,
: -, , Firewire .
Firewire .
.
: .
.
, .
,
. : ,
,
.
, :
Lame 1998 ,
.
. (MPEG),
(ISO), 80-
MPEG, MPEG 1.0 Audio
Layer III .
- ,
. Lame,
. Lame ,
.
, ,
.
( WAV) ,
, ,
. 2000 128 /,
, ,
192 /.
, ,
VBR,
. ,
( ),
320 /.
WMA Microsoft
WMA Microsoft
Windows. Microsoft
MPEG, WMA
.
Microsoft WMA
: WMA-
WAV.
WMA . ,
, ( Microsoft),
.
, -.
,
Microsoft Lame.
:
Microsoft,
, , Lame.
,
. , WMA ,
. :
,
. , , :
MPEG /
. ,
.
Liquid Audio ,
. ,
,
.
, Tomson Multimedia.
. -
.
OGG Vorbis
. ,
, ,
OGG
. -
,
. TwinVQ , Yamaha.
,
. -
, .
PDF
Word
MS Office, ,
. .
PDF
PDF-. ,
. , PDF,
-> . , Adobe PDF
. ,
.
PDF-
Adobe PDF
. Adobe PDF Settings. ,
: High Quality ( PDF
) Smallest file size ( ).
, Edit.
.
(None) PDF
(Reconfirm security for each job)
Edit , .
,
: ,
3.
, ().
m ,
k m kq , q .
log m
log k
= log k m
q - k- . ,
32 q = log232 = 5 ,
. ,
. , , , 64 .
q = log264 = 6 q = log864 = 2
. 13 001101,
15.
. ()
- , .
m ,
m - . , :
l
i 1
l 1
l 2
1
0
Q = aim
= al m
+ a l 1 m
+ ...+ a 2 m + a 1 m ,
i =1
i - ; l - ; i - ,
0 m-1 , i -
.
- ,
. , ,
13 0001 0011. ,
, .. (
, ): logkm = H0
H = log m (
, ..
).
, 0 = logk m = log232 = 5 ,
4,35 .
, ,
, ,
. i- ,
i, qi,
m
q = p i q i
i=1
q log m,
, .. q log m .
q
log m
(m=2) q ,
m
m
Pi q i Pi log Pi
i=1
i=1
q , .
, q , .
,
, , ,
.
. , ..
,
q .
( , ,
).
,
,
. , 101 - ,
1, 10 10101.
( ).
, ( , )
.
,
. ()
1, 0.
.
, .
1,
- 0.
16: :
3.1.
() -
xi
qi
i qi
-ilog i
x1
0,25
0,5
0,50
x2
0,25
0,5
0,50
x3
0,15
0,45
0,41
x4
0,15
x5
0,05
x6
0,05
x7
0,05
x8
0,05
m
q = p i q i
i=1
0,45
0,41
0,2
0,22
0,2
0,22
0,2
0,22
0,2
0,22
= 2,7
m
H = Pi log Pi = 2,7
i =1
, q = H, , .
17: - , : (x1) = 0,5; P(x2)=
0,25; P(x3) = 0,125; P(x4) = 0,125
18: (m=8),
- .
: ( )
k=2
q logk m = log2 8 = 3, ..
.
- ,
, ,
, .
3.2.
()
xi
Pi
1 2 3 4 5 6 7
x1
1/2
x2
1/4
0 1
x3
1/8
0 0 1
x4
1/16
0 0 0 1
x5
1/32
0 0 0 0 1
x6
1/64
0 0 0 0 0 1
x7
1/128
0 0 0 0 0 0 1
x8
1/128
0 0 0 0 0 0 0
, .
.
,
. :
m= 8
63
H = P( x i ) log P( x i ) = 1
i =1
64
:
m= 8
63
q = P( x i )q ( x i ) = 1
,
i =1
64
q(xi) - , xi.
19:
- - .
3.3.
()
xi
Pi
x1
0,22
x2
0,20
x3
0,16
x4
0,16
x5
0,10
x6
0,10
x7
0,04
x8
0,02
: 1.
m= 8
q = Pi q i = 2,84
i =1
2.
m= 8
H = Pi log Pi = 2,76
i =1
, , (q > H).
,
.
20: , , x1 x2
(1) = 0,9; P(x2) = 0,1.
,
. , .
, 1, 0,
m= 2
H = Pi log Pi = 0,47
i =1
,
..
m
q = Pi q i = 1 H = 0, 47.
i =1
, , :
3.4.
1
x1x1
0,81
x1x2
0,09
x2x1
0,09
x2x2
0,01
,
.
m= 4
q = Pi q i = 1,29,
i =1
x1x1x1
Pi
0,729
x2x1x1
0,081
x1x2x1
0,081
x1x1x2
0,081
x2x2x1
0,009
x2x1x2
0,009
x1x2x2
0,009
x2x2x2
0,001
-
, ..
, :
3.6.
()
xi
Pi
1- 2-
1
x1
0,22
x2
0,20
x3
0,16
x4
0,16
x5
0,10
x6
0,10
x7
0,04
x8
0,02
.
.
.
.
,
. ,
,
.
,
, .
,
:
3.7.
x1
0,22
x2
0,20
00
x3
0,16
111
x4
0,16
110
x5
0,10
100
x6
0,10
0,10
1011
x7
0,04
0,06
10101
x8
0,02
10100
. , 1,
, 1,
0.
,
.
. 3.1.
,
.
21: -
4.
4.
. , 2-
() . , 0110111
0100110, .
,
:
1. , ,
, ,
, ,
.
2. ,
,
.
,
. ,
.
,
, , ,
.
,
. ,
.
:
1) /;
2) .
4.1
, ,
.
:
1) ;
2) .
.
. .
:
1) ;
2) .
( k , )
n . k ,
.
, n
.
.
,
. , ,
, () ,
.
.
() ,
, .
.
4.2
k
. n ,
n>k.
2k 2n .
2n 2k
. .
2n-2k
. .
,
.
2k
, 2k*2n .
:
1) 2k ;
2) 2k(2k 1) ,
;
3) 2k(2n 2k) ,
.
,
k
n
k
k
2 (2 2 ) = 1 2
n
k
n
2 *2
2
22: ,
(n=k+1).
: 1. 2k+1, ..
.
2. , ,
2k , ( ).
3. k
(0 1), ,
.
,
.
1 2
k +1
=1
2.
2k Mi,
.
, Mi, ,
Ai. ,
Ai, .. 2n-2k c.
2k(2n 2k). ,
.
n
k
2 2 = 1
k
n
k
k
2 (2 2 ) 2 .
,
.
() .
,
r
p.
r n :
r
p r = c rn p (1 p )
nr
p ; r ; n
cr
; n r.
, p<<1, .
.
4.3
,
.
.
,
, d.
,
2.
1001111101
1100001010
0101110111
( 2: y= 1 2, 1 , 1 x2
).
, ,
.
D,
dij (i,j = 1,2,,m) m
.
23: 1 = 000; 2 = 001; 3 =
010; 4 = 111.
. 1. d=1.
2.
4.1.
00
00
01
11
x1
x2
x3
x4
00
00
01
11
1
1
2
2
,
,
.
, d=1
. , n=3 :
000, 001, 010, 011, 100, 101, 110, 111.
. ,
. d = 2,
.
,
. , n=3:
000, 011, 101, 110 ;
001, 010, 100, 111 .
, (
n=3 ).
r
r, . d0 minr+1.
, , r,
.
.
,
. n=3
, , 000 111. 000
001, 010, 100,
000.
111
111 011
101
110
. 4.1.
s
,
,
.
n-
m- , .. , 1.
n=2 :
11
01
d=2
00 4.2.
.
10
n=3 :
. 4.3.
n- 2n ,
.
.
, , .
, ,
, ,
:
r<
1
d
2
d 2r + 1 . ,
r s (r>s),
d r+s+1 (rs).
.
, (d-1)/2
, .
, (d-1)/2,
.
( d/2) ( ,
), .
, ,
. .
, , : 1 = 00; 2 =
01; 3 = 10; 4 = 11. 2,
( d=1).
0 1 , , 1 = 000; 2 = 011; 3 = 101; 4
= 110. d=2, , , .
,
(, 2
). , 2
0, 1. .
( ,
parity check ).
. 4.4.
n- M 2 ,
, (n+1)- (parity bit)
. (n+1)-
. ,
2 0,
. ,
1, (n+1) . ,
, .
(n+1)-
, 1, ,
.
, , ,
, ..
2,
2 ( ). ,
, 0.
,
.
, ,
, , ,
.
, (
) .
, ,
. , ,
.
- .
, .
. ,
,
, , 2.
P<<1, ,
.
. .
.
-
, .
: 2
, ,
.
,
.
, - ,
.
.
, .
, , :
1 = 00000; 2 = 01101; 3 = 10110; 4 = 11011;
:
4.2.
x1
D=
x2
x3
x4
x1
x2
x3
3
3
x4
, d 3, (d 2+3+1).
23: :
1) ;
2) ;
3) .
, .
:
- , - ;
, -
.
.
.
.
, .
.
.
:
;
.
, ,
: , ,
.
,
.
. ,
, .0 , .
1 .
, .. , .
,
.
, ,
.
,
,
. ,
,
.
:
;
.
, ,
, .
, .
, ,
. .
.
,
. , 11011 10110 d = 3,
(, ).
m .
2
00 ... 0 11 ... 1.
, .
, 1101 : 0101,
; 1001, , .. ,
d min = 1. .
, N 1 = 1101, N 2 = 0101,
(
N 2 = 0101). (,
),
d min 2. ,
. , ,
, , ..
.
d min = 2 , m
, ,
. ,
. :
(8),
0.
(7), ,
, .
.
, , (.. ,
), ,
.
. ,
, .. . ,
, .. ,
.. ,
. ,
.
, ..
,
. , , , , ,
0
.
, ().
2 . 1 , 2 ,, n
, = 1 2 3
,, n . = 0, , .
,
= ...((a 1 2 ) 3 ) ... n . i
(i + 1),
(i + 1) p i +1 = p i i +1 , ,
.
1
p i +1 = p i i +1 (. 1) , .0
(p i +1 = p i ), .1 (p i +1 = pi ).
(.1).
.1. .
, 0,
,
. .1 1, . 1
0 .. ,
= 0; = 1.
2 ,
..
.2.
.2. .
( ) ( .2 =1)
, 2.
..
.
:
,
2, .3.
.3. , 2.
.
n .
i
1,2,4,8,..., n/2,
q = 2. k- k = 1, 1 =a k q
k 1
k 1
= n/2
2 = n.
k.
:
.
.
N 1 = 10111
. : N 2 = N 1 +1.
-
2- 3-. :
N 2 N 2 , ,
. , N 2 . ,
( )
, .
( ) k , k.
q.
. .
N q, r N .
N .
N* q r N *.
q (.4).
.4. q.
r N r N *,
. . 5
.
.5. , .
N 1 N 2 N*. r N 1 r N 2
r N . r N *, N*
q, r N ,
.
q = 3, q = 7. q
,
.
. 5. q = 3, N 1 = 32 10 = 100000 2 ,
N 2 = 29 10 = 011101 2 . r N 1 = 2 10 = 10 2 , r N 2 = 2 10 =
10 2 ( q = 3 0, 1, 2
).
N* = N 1 + N 2 = 61 10 = = 111101 2 , 3
r N * = 01 2 . r N 1 r N 2 3, r N = 01 2 .
r N * = r N .
r N * r N .
, . 2.
2
, ,
. ,
; ,
, 7 , 3.
7 , 3. 7
( 3) , ,
( ).
3.
.
. . 3 3 ,
(.. ).
1, 2. ,
3
3.
3
, N = 11001011 2 ; , ,
S=12+11 + 02 + 01 + 12+01+12+11 = 8; , 8 3, r N = 2.
3
3,
,
,
. . 4.
b , ,
; b = 0, b = 1.
4
JK- (. 5)
. 6 , 1 2
:
.6. , 1 2
.
J 1 J 2 -:
.7. b
3.
(),
. ,
3 1 b = 1,
b= 0.
.7. .
, . 8.
. 1 0 , 1 , 2 (0,1,2).
, ,
.
.
:
n = 2 , k,
(n 1).
4.4
.
m k
(m-k) ,
: Rm = (m-k)/m Rk = (m-k)/k.
Rk, 0 , ,
. ,
, .
, ,
Q m- ,
s .
, d=2s+1.
cim
i =1
Cmi i.
,
.
.
cim
1+ i =1
,
. m-
2m,
m
(1 +
i =1
Q 2m
i
m
i =0
i
m
.
d, Q :
4.3.
d Q
22
m +1
2m 1
m +1
m 1
m +1
...
...
...
2
2
1 + c + cm
+ ... + c km
1
m
, ,
.
,
. ,
.
,
,
.
,
.
,
,
. , ,
.
,
.
,
.
4.5
,
0. 1,
, ,
, 0, . ( ,
) ,
, ,
. .
.
,
( ).
, , ,
.
,
.
.
4.6
(
, , ).
, ,
.
, ,
.
.
( a+b=c)
( a*b=c), , ,
.
,
.
,
:
1.
( ).
2. a,b,c (a+b)+c=a+(b+c),
, a(bc)=(ab)c,
.
3. Gn ,
a Gn +0=0+, ,
*1=1*=, .
0, 1.
4. ,
+(-)=-+=0, , *-1= -1*=1,
.
(-),
-1.
, , ,
a+b=b+a ( ) a*b=b*a ( ),
.
, , .
n-
,
.
q (q ),
,
q.
2.
0, , 1,
, ,
1011101
0111101
0001110
1101110
,
.
, .
2 . ,
2 .
24. ,
:
A2
A3
A4
000
001
010
011
B1
A2B1
A3B1
A4B1
100
101
110
111
26:
.
: ,
.
:
4.5.
A1=0
A2
A3
A4
0000
0001
0110
0111
B1
A2B1
A3B1
A4B1
0100
0101
0110
0111
B2
A2B2
A3B2
A4B2
1010
1011
1000
1001
B3
A2B3
A3B3
A4B3
1100
1101
1110
1111
R,
( ), ,
1) R ;
2) R bR R (
);
3)
a,b,c
a(bc)=(ab)c
( );
4) a,b,c R a(b+c)=ab+ac
(b+c)a=ba+ca ( );
ab=ba,
.
.
.
F , , ,
, :
1) ;
2) ;
3)
a,b,c
( ) a(b+c)=ab+ac.
F , ,
, .
.
GF(P), ,
. , q, ,
. , q, q -
, .
,
(0)
(1). , 0 1, GF(2).
:
+
. 4.5
, n
GF(2),
n GF(P).
, .
Aj Ai Af = Ai + Aj, Ak
(k=1,2,,n) k- ,
GF(P). n-
.
, q,
GF(q) q.
4.7
(, , )
().
.
,
(, L ).
,
L L.
F ()
V (), :
1) V ;
2) v V F cv,
V ( );
3) u v V , d F , (+v)=cu+cv;
(c+d)v=cv+dv ( );
4) v-, d-, (cd)v=c(dv) 1*v=v
( ).
,
.
n GF(P) ( ) ai
GF(P) : ai(a1, a2, , an)= (ai a1, ai a2, , ai an)
( GF(P)).
(..3.4) , n-
GF(2) (.. 0 1).
2. (1) ,
(0) ,
0=(0 00).
n GF(P)
,
(, , ),
n-
GF(P).
,
, .
n- GF(P).
GF(2)
,
n- .
.
4.8
,
Q, . .
.
n- ,
, , .
( )
2 .
2k l Q ( ,
), k,
.
2k - 1 k -
. k
2 .
2k ( )
n- , 2k n-
, , n .
.
, .
2n n- 2k
n- ,
. 2n-k 1
. 2
.
,
, ,
.
, . ( 2)
, .
, 2n 1
2n-k 1 .
,
,
,
().
,
.
,
, 2 ( ),
, . .
.
,
. ,
.
,
, .
,
k . ,
. , ,
, :
00001
00010
.
01000
10000
.
, ,
2n-k -1 n 2n-k -1 n
,
,
1
2n-k-l n + n
2n-k-l n + n ++ n
,
,
. ,
.
.
4.8.1
. , 15 .
. 2n-k - 1= ,
, , , (n = 7).
.
.
, ,
(. 4.6).
4.6.
0000001
001
0010000
101
0000010
010
0100000
110
0000100
011
1000000
111
0001000
100
,
, .
, ,
.
.
, , 0...001 0...010.
0...011
.
, , ,
0...011.
0...0100,
. 0...0101
0...0100 0...001 , ,
, 2
, .. 0...0101.
, 0...0110
0...0110.
, ,
, 0...0111. ,
i- ,
i, ,
, i- , ,
.
: 0...01001, 0...01010,
0...01100.
0...0111,
00111
00111
00111
00001
00010
00100
_______
________
_______
00110
00101
00011
, : 0...0110, 0...0101, 0...0011.
,
1000.
0...01001, 0...01010, 0...01100
:
0...01001, 0...01010, 0...01100.
,
01111.
,
,
:
0...010001
001110
0...010010
001101
0...010100
001011
0...011000
000111
,
.
2
,
.
, ,
29- [ .
. .:, 1964].
. 4.7.
,
, .
4.8.2
, ,
( ),
. ,
,
.
4.7.
1
00000001
00010000
11
01101010
00000010
00100000
12
10000000
00000100
00110011
13
10010110
00001000
01000000
14
10110101
00001111
10
01010101
15
11011011
,
(. 4.8).
4.8.
0001
0111
12
1100
0010
1000
13
1101
0011
1001
14
1110
0100
10
1010
15
1111
0101
11
1011
16
10000
0110
, .
a4=a5 a6 a7 .
dmin = 3,
. .
4.8, ,
, .
27. 15 ,
.
d
0 min
r+s+1
, 4. .
, . (7, 4).
,
.
, (8, 4). :
a1=a3 a5 a7,
a2=a3 a6 a7,
a4=a5 a6 a7 .
a8=a1 a2 a3 a4 a5 a6 a7,
(7, 4) S1,
8
S2(S2 =
a
i =1
) 3 ,
:
S1= 0 S2= 0 ;
S1= 0 S2= 1 ;
S1 0 S2= 0 ( ,
);
S1 0 S2= 1 ( ).
28. . 4.8, (8,2),
.
. 4.7 , :
a1 a5 a8=0,
a2 a5 a8=0,
a3 a5=0,
a4 a5=0,
a6 a8=0,
a7 a8=0.
a1=a5 a8 (4.2 )
a2=a5 a8 (4.2 )
a3=a5 (4.2 )
a4=a5 (4.2 )
a6=a8 (4.2 )
a7=a8 (4.2 )
, dmin = 5, , ,
1 4.
,
, .
, ,
, .
.
4.8.3
, ,
, .
. ,
,
.
.
, .
i d ( )
.
i.
. ,
d , ,
, , .
,
. d 2s+ 1
s s ,
.
, aj(j i)
. .
29.
(8,2).
,
5.
(4.2 ) (4.2 ) 8, (4.2 ) (4.2 )
a5 (4.2 ) (4.2 ) a5 = a5,
a5:
a5 = a6 a1,
a5 = a7 a2,
5 = 3,
5 = a4,
5 = 5.
a8 :
a8 = a3 a1,
a8 = a4 a2,
a8 = 6,
a8 = a7,
a8 = 8.
4.8.4
l n l n ,
l n :
a11 a12 .....a1n
a a ....a
2n
A 21 22
.
...................
a l1 al 2 .....a ln
, :
a11 a12 .....al1
a a ....a
l2
T
A 21 22
.
...................
a1n a 2 n .....a ln
n n n.
, ,
, I. |ij| |bij|
l n l n:
+ |ij| + |bij| |ij + bij|.
|ij| l n l n:
c |ij| |c ij|.
|ij| l n |bjk| n m ,
cik l m
l- k-
:
n
cik =
a b
j =1
ij
jk
GF(P),
.
GF(P).
30. GF (2):
011
111
M 1 = 100 M 2 = 010
001
100
cik = M1M2 :
c11 = (011) (101) = 0 + 0 + 1 = 1
c12 = (011) (110) = 0 + 1 + 0 = 1
c13 = (011) (100) = 0 + 0 + 0 = 0
c21 = (100) (101) = 1 + 0 + 0 = 1
c22 = (100) (110) = 1 + 0 + 0 = 1
c23 = (100) (100) = 1 + 0 + 0 = 1
c31 = (001) (101) = 0 + 0 + 1 = 1
c32 = (001) (110) = 0 + 0 + 0 = 0
c33 = (001) (100) = 0 + 0 + 0 = 0
110
M = 111
100
,
. , ,
n-
() GF(P). (n, k)- n
2k1 ( ). , (8,2),
,
a5 a8 a1 a 2 a3 a 4 a 6 a 7
0 111 0 0 11
1 0 11 11 0 0
1 1 0 0 1 1 1 1
n k , , .
, ,
,
.
, ,
.
. .
2k 1 k.
, (8,2)
M 8, 2
a1 a 2 a3 a 4 a5 a 6 a7 a8
= 11 0 0 0 11 1
1 1 1 1 1 0 0 0
, ,
, () .
k n GF(q),
(n, k)-. (n, k)- k n k
. ( ) Q = qk-1.
, ,
ki k .
ki n,k:
ni = ki n,k .
(8,2),
a5=l, a8 = 1:
1 1 0 0 0 1 1 1
M 8, 2 = 11
=0 0 111111
1 1 1 1 1 0 0 0
.
: 1) ; 2)
; 3) -
, .
M2 M1
, .
. .
.
(n, k)-,
, (n,k) :
k k - (
) k (n k), n k :
M n,k
..............................................
= [I k Pk ,n k ] =
0 1...0 p p ... p ... p
i , k +1 i , k + 2
i, j
i ,n
..............................................
(4.3)
,
k ,
(n - k) . , - Ak,i = = (a1
a2ai...ak) n,k= [IkPk,n-k],
An,i = (a1a2...ai...ak...ak+1...aj...an),
:
k
a j = ai pij .
i =1
(4.4)
j(k
+1 j n)
, , .
. (4.3), (4.4),
-.
( ) ,
- ,
.
31. Ik, k,n-k_ Mn,k (7,4).
1000
0100
.
I4 =
0010
0001
, (4.1)
P4,3
110
101
= .
011
111
M 7, 4
a3 a5 a 6 a 7 a1 a 2 a 4
1 0 0 0 11 0
= 010 0101
0 0 1 0 0 11
0 0 0 1111
(7,4):
M 7, 4
a1 a 2 a3 a 4 a5 a 6 a 7
1 0 0 0 11 0
= 010 0101
0 0 1 0 0 11
0 0 0 1111
, - Pk,n-k ,
. ,
.
, .
- ,
-.
d
, - k ,
: - ,
l (1 l k) , d l
.
,
, l , d
, l
.
(7,4) d = 3.
- - ( l=1)
. : 011, 110, 101,
111.
.
, ,
:
M 7, 4
1 0 0 0
0 1 0 0
=
0 0 1 0
0 0 0 1
0 1 1
1 1 1
1 0 1
1 1 0
, (l>1)
-, d=3 .
n,k= [IkPk,n-k],
() (n k) n:
H = P T k ,n k I n k
................................................
0
0
...
1
ni ,
, , :
p 2, k +1 ... p 2, j ... p 2, n
............................
1........0........0
0...... 1........0
0.........0..... 1
= S k +1 , S k + 2 ,..., S j ,...S n = 0,0,..,0,..,0 .
Sj
:
k
S j = ai Pij a j = 0.
i =1
Sj =
ij
j = 0.
i =1
, Sj(k +1 j n) ,
, S = (Sk + 1, Sk + 2, ...,, Sj, ..., Sn) ,
().
( )
H = P T k ,n k I n k
=
..........................................
32. (7,4) :
M 7, 4
1 0 0 0 1 1 0
0 1 0 0 1 0 1
=
0 0 1 0 0 1 1
0 0 0 1 1 1 1
1100011.
P4,3
P4,3
1101
= 1011 .
0111
:
1101100
H = 1011010 .
0111001
1100011 :
[1100011]
110
101
011
111 = [000].
100
010
001
, , 4- (1101011) :
[1101011]
110
101
011
111 = [111].
100
010
001
, - 111 ()
. .
(7,4),
-,
() .
4.8.5
,
. n k
.
( ) ()
.
,
- 2.
.
33. (7,4),
.
a1=a3 a5 a7,
a2=a3 a6 a7,
a4=a5 a6 a7.
. 4.6.
. 4.6.
k- , , n- . ,
, . 4.9.
1, 2 3,
0 1
. , C1
, 3, 5 7- , , 1
1, 2
0, 4 1.
(.
4.10)
, .
.
(. 4.7),
. (7, 4) :
a1 a3 a5 a7= 0 ,
a2 a3 a6 a7= 0,
a4 a5 a6 a7= 0 .
4.9.
r1
r2
Tr3
r4
r5
Tr6
r7
, , n-
( . 4.7 1 7).
(C1 3) .
4.10.
1
T6
. 4.7.
0 1
. ,
0, .
. DC
.
,
, , .
. , ,
, .
,
. (7,4)
, ,
.
,
, .
4.11.
4.11.
1
T7
:
1 a1 a3 a5 a7= 1+1+1+0=1,
2 a2 a3 a6 a7= 0+1+1+0=0,
3 a4 a5 a6 a7= 1+1+1+0=1 .
. 4.8.
, , , 101 5.
5, .
34. (8,2),
.
.
. 4.8.
, ,
(5- 8-).
,
.
4.9
4.9.1
(n, k) , k
n , , k n
. ,
.
, . ,
, .
,
. , , ,
001011:
(n, k)-
(n, k)-.
n-
. x
( ),
GF(q). 0 = 1.
GF(q) GF(q).
,
0 1. , GF(2).
, , 01011:
G(x) = 0x4 + 1x3 + 0x2 + 1x + 1
,
:
G(x) = x3 + x + 1
.
.
.
n - k
.
, , (001011), g0() = x3
+ x + 1, , (010110), g0(x).
, ,
, x3 + x + 1
x+1. ,
(n-) ()
n + 1= n 1, . . n + 1.
,
xn + l. ,
.
, ,
. .
.
, .
4.9.2
n-
, ,
n-1.
, .
, n : .
.
. ,
. ,
, n-1, 2(n-1),
, n , ,
.
:
1) ,
;
2) n-1,
;
3) n,
n
.
n-1, , ,
k- .
, n- n + 1.
, n-1
G(x) = (xn-1 + xn-2 + + x + 1)x = xn + xn-1 + + x
,
, ,
n 1.
xn + 1 ,
xn + 1 ( ).
,
g(x). , g(x)-
.
. 0,
, 0.
1[g(x) = 1],
. ,
n-k, 2k.
,
n- . ,
g(x), .
4.9.3 ,
,
, g(x) . , g(x)
, .
, g(x)
xn + 1.
, gi(x)
g(x)i xn + 1 :
gi(x)=g(x)xi + c(xn + 1)
=1, g(x) i -1; = 0, g(x) i -1.
, ,
g(x) , g(x)
xn + 1.
, g(x) , , , ,
xn + 1.
, -
, ,
.
,
.
, .
.
g(x) m = n-k xn + 1,
g(x) ( ),
r(), m-1.
, ri(x),
. r() ,
g(x) m . 4.12,
f(x)- n-m-1.
4.12.
0
g(x)
xg(x)
(x+1)g(x)
f(x)g(x)
r1(x)
g(x) + r1(x)
xg(x) + r1(x)
(x+1)g(x) + r1(x)
f(x)g(x) + r1(x)
r2(x)
g(x) + r2(x)
xg(x) + r2(x)
(x+1)g(x) + r2(x)
f(x)g(x) + r2(x)
rn(x)
g(x) + rn(x)
xg(x) + rn(x)
(x+1)g(x) + rn(x)
f(x)g(x) + rn(x)
, ,
. ,
,
, ,
.
, 2m - 1 ( ),
() ,
( 1).
4.10
k.
n,
.
g(x).
,
.
4.10.1
h(x), ,
f(x)
(x):
h(x) = f(x) (x)
h(x) g(x) ,
, , ,
, g(x): f(x)- , , g(x)
.
. (x) = xi. g(x).
, n+1, ,
, x + 1.
x + 1 :
0 1. ,
, , , 1.
,
.
, , , xn + 1.
, .
4.10.2
,
, . ,
.
g(x), g(x)
. , .
m = n-k 2n-k - 1 (
).
,
1
2n-k - 1 C n = n,
1
C n -
;
m = n k log2(n+1)
. k
m . 4.13.
4.13.
M
10
15
31
63
11
26
57
, g(x) n+1.
, 2m-1+ 1 = n+1
, ( 1
). ,
, n+1.
, ,
, n
m . , ,
.
35. n = 15 m = 4.
x15 + 1 ,
4. 1, 2, 4.
,
x+1, x2 + x + 1 : 4 + x + 1, 4
+ 3 + 1, 4 + 3 + 2 + + 1. ,
( + 1)(2 + + 1)(4 + + 1)(4 + 3+ 1)(4 + 3 + 2 + + 1) = x15 + 1
. , , 4 + 3 + 1, 11001.
,
, 11001. m
: 00000, 000010, 000100, 001000.
g(x).
. ,
, 00...10000 11001, ..
. ,
g(x)
:
.
, , g(x)
= 15, , , , g(x),
.
4 + + 1. , .
4 + 3 + x2 + + 1 .
, 15, 5. ,
, x4 + 3 + 2 + + 1
x15+ 1, x5 + 1.
,
g(x) ( ), ,
+ 1, + 1,
. , g(x)
.
. 4.14 ,
.
4.14.
x2 + x + 1
x3 + x + 1
x3 + x2 + 1
x4 + x3 + 1
15
15
x +x+1
15
15
x5 + x2 + 1
31
31
x5 + x3 + 1
31
31
,
.
.
, , () = i j, (x) = i(j i
+ 1) j>i. j i<n, a g(x) , (x)
g(x), .
4.10.3
, ,
, , .
() ,
z, g(x) ,
(z + 1), () + 1,
.
n + l.
. 4.15 ,
.
4.15.
(x+1)(x3 + x + 1)
(x+1)(x4+ x + 1)
11
16
(x+1)(x5+ x + 1)
26
32
4.10.4
, ,
, --. ,
m s<n/2 =
2-1 ms,
2s s.
.
4.10.5
(, k)-,
b , ,
, : n k
2b
b
l b b + l
.
, ,
, -.
.
- .
, ,
.
4.10.6
(),
( ),
g(x). .
,
.
.
( )
k , ,
n-k . ,
. (), k-
, , m = n-k. ,
(), ,
m . ()
g(x). q(x) ,
() r(). ().
f(x) = a(x)xm + r(x)
g(x) , r() m 1.
,
(),
, r() ()
.
, f(x) g(x) , . . ,
. , ()
a(x)xm = q(x)g(x) + r(x)
, r()
, .
a(x)xm+ r(x) = f(x) = q(x)g(x)
, ,
. ,
, .
.
,
.
:
ai + k =
k 1
h a
j
i+ j
j =0
(4.5)
h- h(x),
h(x) = (xn + 1)/g(x) = h0 + h1x + + hkxk
(4.5)
a0, a1, ..., ak-1 n-k ak, ak+1, ... ..., an-1. ,
, .
, , ,
.
,
, --.
4.10.7
Mn,k :
Ik ( k ) k,n-k
( ):
Mn,k = || IkCk,n-k ||
Ik .
,
, , .
k,n-k
r(). Ik r()
() g(x).
Ik.
g(x)
. - r()
n k 1,
, r() -k 1.
k .
36. (15,11)
g(x) = 4 + 3 + 1.
,
,
(n, k)-. ,
. .
4.10.8
.
, .
, , k = 5,
, ,
8.
, n= 15.
11 .
, (n, k) - j
.
,
.
(n-j, k-j)- .
, (n, k)-, .
(n, k)- j
, . , (9,5),
(15,11),
4.11
4.11.1
, ,
.
. ,
.
, 1, . 0,
. ,
, , , .
,
.
. 4.9.
. 4.9 , (,
)
a(x) = a0 + a1x + + ak-1xk-1
(, )
g(x) = g0 + g1x + + gn-kxn-k.
a(x)g(x)=a0g0 + (a0g1 + a1g0)x + +(ak-2gn-k + ak-1gn-k-1)xn-2 +ak-1gn-kxn-1
,
n-k .
k-1 ()
,
ak-1gn-k
ak-2gn-k + ak-1gn-k-1 ,
.. , . . n- , ,
0g0
(. 4.10).
. 4.11 , ,
, (
0).
. 4.10.
. 4.11.
n-k - ,
.
, ,
, - .
, .
,
, .
-.
, . .
, - m
= n-k, , ,
m- .
.
37. () =(x3+1)x3
g(x) = 3+ 2+1. . 4.12, 1, 2, 3- .
. 4.16.
. 4.12.
.
. .
,
. 4.10, 4.11,
: - - ,
n - k .
4.11.2
,
,
.
4.16.
6
7
10
11
12
13
14
() g(x).
, n-k (. 4.13).
. 4.13.
,
n-k , .
.
1 1.
, , k .
K1 2 .
38. () = (3 + 1)x3 g(x) = x3 +
2+ 1 k .
g(x) . 4.14.
. 4.17,
, .
, . .
. k-
(. 4.15).
. 4.14.
4.17.
01
001
1001
01001
101001
1101001
h(x) = (xn + 1)/g(x) = h0 + h1x + + hkxk
1 1. k
.
2.
,
. n-k
K1 1.
k
.
39.
g(x) = x3 + x2 + 1 (x) = x3 + 1.
:
h( x ) =
x7 + 1
= x4 + x3 + x2 + 1
x3 + x2 + 1
. 4.15.
. 4.16.
h(x) . 4.16.
. 4.18.
.
4.11.3
,
.
.
,
f(x),
, g0(x).
, .
4.18.
6
7
1
01
001
1001
01001
101001
1101001
. 4.17.
, ,
.
.
( ),
. ( ),
. .
, , , , .
. 4.17.
, , , , ,
n- , n
,
. (n + 1)-
.
,
(). ,
, - ,
, ( ),
,
. 1,
, , .
1
.
, ,
. , .
.
, ,
. ,
, , 2n .
.
, .
,
,
. g0(x)
, g0(x)
. , n- ,
.
( ).
, .
, n (. . 4.11), , k
(. 4.13). k
() n- ,
(), (x). ,
, .
40.
(7,4) g(x) = 3 + 2 + 1
n k .
n :
,
110,
-.
. 4.18 . . 4.19
, 1001011 (.
. 4.18) 4-
(1000011).
n ( 7) II
101.
. 4.18.
4.19.
II
10
01
11
001
12
1001
13
01001
14
101001
1101001
, II .
10- ,
.
, .
II (
). k
n- .
. 4.19.
4.20.
10
11
12
13
14
II
1
01
001
1001
01001
101001
1101001
100
-. . 4.19
. . 4.20
1000011 ( 4- ). ,
k ,
, .
41.
. (7,3) g(x) = (
+ 1)(x3 + x2+1).
k ,
:
. . 4.20.
1000010 4- 5-
. 4.21. 9- II
1100. -
, 5-
II,
4 (1000). 11- -
, .
4- II.
. 4.20.
4.21.
10
11
12
13
14
II
1
01
101
1101
11101
011101
0011101
.. .
. .: , 1989 320 .