Approximation_introduction

第三章 函数逼近 /*Approximation

§1*/ 引言
问题提出： f(x)C[a,b]
 插值法是函数逼近的一种重要方法，在插值节点上准确逼
近。高次插值光滑性好，但不一定收敛，分段低次插值一致
收敛，但光滑性差。
 当 xx0 时，可用 Taylor 展开逼近， ( n )
f  x0 
f ( x)  f ( x0 )  f ( x0 )  x  x0      x  x0 
n

n!
当 |x-x0| 较大时，逼近误差很大。光滑性好，但需知道导数
值，且收敛范围有限，收敛速度很慢。
 寻找一种新的逼近函数，简单、光滑性好，例如多项式，且
能“均匀的”逼近 f(x).
 approximation_introduction

对函数类 A 中给定的函数 f(x) ，要求在另一类简单的便于计

算的函数类 B 中，求函数 p(x)BA ，使 p(x) 与 f(x) 之差（误
差）在某种度量意义下最小。
A:C[a,b]
一致逼近或
B: 代数多项式，分式有理函数，三角多项式 均匀逼近
度量标准： f ( x)  P( x)   max a  xb f ( x)  P( x) 均方逼近或
平方逼近
 f ( x)  P ( x)  dx
b 2
f ( x)  P( x) 2 
a

存在性问题： f(x)C[a,b], 是否存在

Pn(x) f(x)(uniformly)?
 Th1. (Weierstrass 定理 ) 设 f(x)C[a,b] ，  >0,  多项式 P(x)
， s.t. f ( x)  P( x)    在 [a,b] 上一致成立。
Weierstrass, 德，
1885 年提出，
时年 70 岁；
注: 1912 年 Bernstein
1. 设 f(x)C[0,1], P(x)= ( 俄 ) 证明

则
2 类似地，
.
 §2 最佳一致逼近多项式
一、问题描述：切比雪夫 ( 俄 ) 从另一观点研究一致
逼近问题，不是让多项式次数 n, 而是固定 n.
Hn={ 次数不超过 (≤)n 的代数多项式 }C[a, b],
{1, x, …, xn} 构成它的一组基， Hn =span{1, x, …, xn}.
Pn ( x)  H n , Pn ( x)  a0  a1 x    an x n , ai  R

f ( x)  C[a, b], 求Pn* ( x)  H n , s.t.

f ( x)  P ( x)  min Pn H n f ( x)  Pn ( x)  ,
n
*


即 max a  xb f ( x)  P ( x)  min Pn Hn max a  x b f ( x)  Pn ( x)

n
*

最佳一致逼近或切比雪夫逼近问题
 ( f , Pn )  0 偏差有下界
Def1 偏差和最小偏差 0
Pn ( x)  H n , ( f , Pn )  f  Pn 
 max a  x b f ( x)  Pn ( x)

Pn ( x)
称为 f(x) 与 在 [a,b]
上的偏差。
En  inf Pn H n  ( f , Pn )  inf Pn H n max a  x b f ( x)  Pn ( x)

称为 f(x) 在 [a, b] 上的最小偏 所有偏差的下确界

差
En  0 最小偏差有下界
* 0
Def2 if Pn* ( x)  H n , s.t. ( f , Pn )  En
称为 f(x) 在 [a, b] 上的最佳一致逼近多项式或最小偏
差逼近多项式，简称最佳逼近多项式。
 最佳逼近多项式的存在性? 
Th2 f ( x)  C[a, b], there must exist a polynomial Pn* ( x)  H n ,
s.t. ( f , Pn* )  En
如何求最佳逼近多项式
?
二、最佳逼近多项式的特性和切比雪夫定理 偏差点
Pn ( x )  H n , there must exist x0  [a, b], s.t.
Def 3
f ( x0 )  Pn ( x0 )  max a  x b f ( x )  Pn ( x)  
正、负偏差
Pn ( x0 )  f ( x0 )   
点
  最佳逼近多项式偏差点的性质
Th3 Pn* ( x)  H n , Pn* ( x)是最佳逼近多项式  Pn* ( x)同时存在正负偏差点.

证明： Pn* ( x)是f ( x)的最佳逼近多项式  Pn* ( x)在[a,b]上总存在偏差点，使得  En

( 反证法 ) 设只有正偏差点无负偏差点，则
x  [a, b], 有 Pn* ( x)  f ( x)   En ,
Pn* ( x)  f ( x)  C[ a, b]  min a  x b  Pn* ( x)  f ( x)    En ,
设 min a  x b  Pn* ( x)  f ( x)    En  2h, h>0,
则x  [a, b], 有
 En  2h  Pn* ( x)  f ( x)  En   En  h   Pn* ( x )  h   f ( x)  En  h

  Pn* ( x)  h   f ( x)  En  h

  Pn* ( x)  h  与f ( x)的偏差小于En，与En是最小偏差矛盾

同理可证只有负偏差没有正偏差也是不成立的
 几何
解释

曲线 y=p(x) 在 [a,b] 上总是位于 y=f(x)+En 与 y=f(x)-En

形成的带形之间，且与这两条曲线至少各接触一次。
 Pn* ( x)  H n , Pn* ( x)是最佳逼近多项式  Chebyshov,1859

Th4 Pn* ( x)在[a, b]上至少有n  2个轮流为 ,  的偏差点,

即有n  2个点a  x1  x2    x n2  b, s.t.
P ( xk )  f ( xk )   1   f , Pn*  ，  1
* k 切比雪夫
n
交错点组
证  (充分性)：设[a, b]上至少有n  2个点a  x1  x2    x n2  b, s.t.
P ( xk )  f ( xk )   1    f , Pn*  ，  1
* k
n

(反证)设Pn*不是最佳逼近多项式，则有Pn* ( x)  Q( x)  H n , s.t.
max a  xb Q( x)  f ( x)  max a  xb Pn* ( x)  f ( x)
 Pn* ( x)  Q( x)   Pn* ( x)  f ( x)    Q ( x)  f ( x) 
在点x1  x2    x n  2 上的符号与Pn* ( x)  f ( x )一致
 Pn* ( x)  Q( x)也在点x1  x2    x n  2 上轮流取, -
 Pn* ( x)  Q( x)有n  1个零点
n ( x )  Q ( x )  0是不超过n次的多项式，其零点个数不超过
*
P
必要性证明见北大、吉大、南大合编的 “计算方法” P.67 n. 矛盾
说明： 1.   1的取法：若P* ( x )  f ( x )  0,   1; 否则  1；
n 1 1

2. Pn* ( x)在[a, b]上是f ( x)的最佳逼近多项式，

Pn* ( x)在[a, b]的一个子区间上不一定是f ( x)的最佳逼近多项式

3 个重要推论

推论 1 最佳逼近多项式唯一
设f ( x)有两个最佳逼近多项式P ( x ), Q ( x), 则x  [a, b]
证
- En  P ( x )  f ( x )  En , - En  Q ( x)  f ( x)  En ,
P ( x)  Q( x)
 - En   f ( x )  En
2
P( x)  Q( x)
 R( x)  也是f ( x )的最佳逼近多项式，
2
且R ( x )  f ( x )的n  2个交错点组x1  x2    x n  2 满足
R ( xk )  f ( xk )   1  En
k
 P( xk )  f ( xk ) Q( xk )  f ( xk )
En  R( xk )  f ( xk )   (*)
2 2
P( xk )  f ( xk ) En Q( xk )  f ( xk ) En
而  ， 
2 2 2 2
P( xk )  f ( xk ) Q( xk )  f ( xk ) En
 当且仅当    时(*)成立
2 2 2
 P( xk )  Q( xk )
 P( x)  Q( x)有n  2个根，而P( x)  Q( x)是不超过n次的多项式。矛盾

推论 2 Pn* ( x)  H n , 是f ( x)的最佳逼近多项式

Pn* ( x)是f ( x)的一个Lagrange插值多项式

证：由 Th4 知
，
Pn* ( x)  f ( x)在[a, b]上要么恒为0，要么有n  2个轮流取  、的偏差点，
-
 存在n  1个点xk : xk  xk  xk 1 , k  0, , n, s.t.
Pn* ( xk )  f ( xk )  0, 即Pn* ( xk )  f ( xk )，
 Pn*是过xk的Lagrange插值多项式。

f ( x)在[a, b]上有n  1阶导数，且f ( n 1) ( x)在[a, b]上保号(恒正恒负)，

推论 3
则区间端点a, b必属于切比雪夫交错点组
证：设 a 或 b 不属于交错点组，则 R(x)=f(x)-P(x) 在开区间 (a,
b) 内至少有 n+1 个点
 a  1   2     n 1  b, s.t. R(i )  0, i  1, 2, , n  1.
由Roll定理知， 在(a, b)内至少存在一个，s.t. R ( n 1) ( )  0,
而 R ( n 1) ( x )  f ( n 1) ( x) - P ( n 1) ( x)  f ( n 1) ( x),
从而 f ( n 1) ( )  0, 与f ( n 1) ( x)在[ a, b]上保号矛盾。
一次最佳逼近多项式
Th4 给出了最佳逼近多项式的特性，但要求出 Pn* ( x)
却相当困难。现讨论 n=1 的情形。
设f ( x)  C 2 [a, b], 且f ( x)在[a, b]上保号，在H1 (线性函数类)中寻求
最佳一次逼近多项式 P1 ( x)  a0  a1 x, 即要确定a0 , a1
分析：由推论 3 ， a, b 均属于交错点组。
由 Th4 知，至少有三个交错点a  x1  x2  x3  b
, s.t.
P1 ( xk )  f ( xk )   1  max a  x b P1 ( x)  f ( x) ，  1, k  1, 2,3
k
 令 R( x)  P1 ( x)  f ( x), 则必有R( x2 )  0，
又 R( x)   f ( x), 即 R( x)在[a, b]上不变号，
故R( x)单调，因此R( x)  a1 - f ( x)在(a, b)内只有一个零点x2，
即 R( x2 )  a1 - f ( x2 )  0  a1  f ( x2 )
x1  a，x3  b满足
P1 (a )  f (a )  P1 (b)  f (b)    P1 ( x2 )  f ( x2 ) 
 f (b)  f (a)
 a1   f ( x2 )
 a0  a1a  f (a)  a0  a1b  f (b)  ba
 
a0  a1a  f (a)    a0  a1 x2   f ( x2 ) a  f (a)  f ( x2 )  f (b)  f (a) a  x2
 0 2 ba 2
f (a)  f ( x2 ) f (b)  f (a)  a  x2 
 P1 ( x)   x 
2 ba  2 
例 求f ( x)  1  x 2 在[0,1]上的一次最佳逼近多项式
x 1
解：f ( x)  , f ( x)   0,
1 x 2
 1 x 
2
1 x 2

a1  2 -1  0.414
x2 2 1
f ( x2 )   a1  x2   0.4551
1  x22 2

f ( x2 )  1  x22  1.0986
1  1  x22 x
a0  - a1 2  0.955
2 2
P1 ( x)  0.955  0.414 x  1  x 2
max 0 x 1
误差限： 1  x 2  P1 ( x )  0.045
b
x 1 a 2  b 2  0.955a  0.414b
a
 零次最佳逼近多项式
f ( x)  C[a, b], M  max a  xb f ( x)  f ( x0 ), m  min a x b f ( x)  f ( x1 ),
M m
令 P ( x) 
0
*
,
2
M m M m
  P0* ( x)  f ( x) 
2 2
M m
P0* ( x0 )  f ( x0 )  
2
M m
P0 ( x1 )  f ( x1 ) 
*

2
M m
x0 , x1是切比雪夫交错点组，P ( x)  *
是零次最佳逼近。
0
2
Th4 给出了求最佳逼近多项式的充要条件，在某些简单情况 (n
=0,1) 下 , 根据 Th4 可求出最佳逼近多项式，但对一般情形， n
2 时，求最佳逼近多项式极其困难，至今尚未完全解决。困难
在于：


1. 如何寻找 n+2 个交错点组 a  x1  x2    x n 2 b

 x1  a   xn2  b   f   x j   Pn  x j    0, j  1, , n  2

n+2 个非线性方程 , 包括 a, b 是交错

点的情形，若x1  a, xn  2  b
，是 n 个方程

2. 找到交错点组后，根据下面关系确定最佳逼近多项式的系数
：
 P ( xk )  f ( xk )   1  En，  1, k  1, 2,, n  2
* k
n



 a0  a1 x1    an x1n   f ( x1 )  d


 a 0  a x
1 2    a n 2   f ( x2 )  d
x n

d   En
 

 a0  a1 xn  2    an xn  2   f ( xn  2 )   1 d
n n 2

共 n+2 个方程，可解出
a0 , a1 , , an , d 共 n+2
个未知数
实际上是两组非线性方程 (2n+4 个 ) 联立求出 2n+4 个未知
数 , 非线性方程很难求解，因此常求近似最佳逼近多项式。
 Remes 近似算法：

1. 在 [a, b] 中选 n+2 个点作为近似的切比雪夫交错点
组： a  x1(0)  x2(0)    xn(0) 2  b

2. 解下面线性方程组求 a0 , a1 , , an , En
Pn ( xk(0) )   1 En  f ( xk(0) )，k  1, 2, , n  2
k


  (0) (0) n

a0  a1 x1    an  x1   En  f ( x1(0) )


  (0) (0) n

a0  a1 x2    an  x2   En  f ( x2(0) )
 

 
 a0  a1 xn+2
(0)

   an  xn+2    1 En  f ( xn+2
(0) n n 2 (0)
)

得到初始逼近多项式 Pn ( x)  a0  a1 x    an x 及En
n
 
3. 求出的Pn ( x)  f ( x) 极值点或近似极值点，记作xˆ
用它代替  xk(0)  中的某一个，得到  xk(1)  ( 具体代
替哪一个，参见李岳生《数值逼近》 ) 。


4. x 
(1)
k 代替 xk
(0)
 ，转
2.
重复上面计算直到两组系数 a0 , a1 , , an 得到的解误差在精
度
要求内为止。可证，
*
ak  ak , k  
§3 最佳平方逼近
最佳平方逼近多项
f ( x)  C[ a, b], 求Pn* ( x)  H n , s.t. 式
1
  f ( x)  P ( x)  
b 2 2

 a 
f ( x)  P ( x)  min Pn H n f ( x)  Pn ( x)  min Pn Hn
n
*
n  
2 2

最佳平方逼近问题 ( 存在性、唯一性、若存在，如何计
算 ) ，在实验数据处理中有广泛应用。
      预备知识

Def1 1.  权函数 : 设 (x) 在 [a,b]( 有限或无限 ) 上有定义，若满足

：  ( x)  0
 非负
a= 或 b= 时
b 性

n
x  ( x)dx  , n  0,1, ， (x) 有很好
 a
的衰减性

g( x)  C[ a, b], g( x)  0,
b
 a
 (x)g(x)dx  0  g(x)  0, x  [ a, b]

称 (x) 为 [a,b] 上的权函 e.g.

数  ( x)  1, [a,b]=[-1,1]
1
 ( x)  , [a,b]=[-1,1]
1 x 2
  线性无关函数族与正交函数族
0 ( x), 1 ( x), , n ( x)  C[a, b], 若x  [ a, b],
Def 2
a00 ( x)  a11 ( x)    ann ( x)  0  a0  a1    an  0，
称0 ( x), 1 ( x), , n ( x)在[a, b]上线性无关。
若 k  k 0,1, 中的任何有限个都线性无关，则称  k  为线性无关族

 e.g. {1, x, …, xn ，… } 是 [a, b] 上的线性无关族。

 若0 ( x), 1 ( x),,n ( x)是C[a, b]中的线性无关组，则
n 
  span  0 ( x), 1 ( x), , n ( x)   aii ( x), ai  R, i  0, , n   C[ a , b ]
 i 0 
 0 ( x), 1 ( x), , n ( x)在[a, b]上线性无关  Cramer ' s det .
Th6
 0 , 0   0 , 1    0 , n 
 1 , 0   1 , 1    1 , n 
Gn  G  0 ( x), 1 ( x), , n ( x)   0

 n , 0    n , 1    n , n 

Def 3 f(x), g(x)C[a,b], 若满足

b  0, f  g
f ( x), g ( x)    ( x) f ( x) g ( x)dx  
a
 A  0, f  g
称 f(x), g(x) 在 [a,b] 上带权函数 (x) 正
Def 4 若函数族   k  k  0,1, (可列个)满足：
交
b 0, jk
  j , k    ( x) j ( x)k ( x)dx  
a
 Ak  0, j  k
称 k  是 [a,b] 上带权函数 (x) 的正交函数族。若 Ak1, 称
为规范正交族
e.g. 三角函数族 1 ， cosx, sinx, cos2x, sin2x, …, cosnx, sinnx,
… 是 [- ， ] 上带权 (x) 1 的正交函数族

函数的最佳平方逼近

一般最佳平方逼近
f ( x)  C[a, b],   span  0 ( x), 1 ( x), ,  n ( x)  C[a, b], 若s * ( x)   , s.t.

f ( x)  s ( x)  inf s f ( x)  s( x) 2  inf s   ( x)  f ( x)  s( x)  dx

2 2 b 2
*
2 a

称s* ( x)为f ( x)在子集中的最佳平方逼近。

 如何求s* ( x) ?
n
关于系数的
设 s ( x)   aii ( x),
i 0
二次函数
2
 n

f ( x)  s( x) 2    ( x)  f ( x)  s( x)  dx    ( x)  f ( x)   aii ( x)  dx  I  a0 , a1, , an 
2 b 2 b

a a
 i 0 

最佳平方逼近问题 I
 0, i  0,1,, n
等价于求多元函数 ai
I  a0 , a1 , , an 
I n 
 2  ( x)   a j j ( x)  f ( x) i ( x)dx
b

ai a
 j 0 
的极小值。由多元 n 
函数极值条件，有  2   a j  j ( x), i ( x)  f ( x), i ( x) 0
 j 0 
n
  a j  j ( x), i ( x)  f ( x), i ( x) , i  0,1, , n
j 0
  0 , 0 0 , 1  0 ,  n   a0   f , 0 
   
 1 , 0 1 , 1  1 ,  n   a1   f , 1 
即  (*)
          
    
 n , 0 n , 1   n ,  n   an   f ,  n 

关于 a0 , a1 , , an
最佳平方逼近函数的存在性 ?
的线性方
由于 0 ( x), 1 ( x),, n ( x) 程组，称为法方 线性无关，由 T
Gn  0
h6 知法方程组的系数行列式  a* ,程
，因此
0 a* ,
1 , a*存在唯一解
(*) n
n，令
s* ( x)   ai*i ( x)
i 0
 a0* , a1* , , an* 只是极值点，不一定是极小值点，因此
需证 s* ( x) 是最佳平方逼近
s ( x)   , 有：即
2 2
f ( x)  s ( x)  f ( x)  s( x) 2 ，即
*
2

 ( x)  f ( x)  s ( x)  dx    ( x)  f ( x)  s( x)  dx
b 2 b

* 2
a a

令 D    ( x)  f ( x)  s( x)  dx    ( x)  f ( x)  s ( x)  dx
b 2 b 2
*
a a
b 2 b
   ( x)  s( x)  s ( x)  dx  2   ( x)  s* ( x)  s( x)   f ( x)  s* ( x)  dx
*
a a

n * 
   ( x)  s( x)  s ( x)  dx  2   ( x)  f ( x)  s ( x)     a j  a j  j ( x)  dx
b 2 b
* *
a a
 j 0 
n
   ( x)  s( x)  s ( x)  dx  2  a  a j    ( x)  f ( x)  s* ( x)   j ( x) dx
b 2 b
* *
a a j
j 0
 *
由于 s ( x) 的系数是方程 (*) 之
解，
b 故
  ( x)  f ( x)  s* ( x)   ( x)dx  0, j  0,1, , n
a   j

b 2
因此 D    ( x)  s ( x)  s ( x)  dx  0 *
a
n
 s* ( x)   ai*i ( x)为f ( x)在子集中的最佳平方逼近
i 0

误差分析
令误差函数  ( x)  f ( x)  s* ( x),
平方误差： b
2 f  s , s    ( x)  f ( x)  s* ( x)  s* ( x)dx
* *
 ( x) 2  f ( x)  s ( x), f ( x)  s ( x)
* *
a
n
 a
b
 f , f  s , f  f ,s  s ,s   ( x)  f ( x)  s* ( x)  i ( x)dx
* * * * *
i a
i 0

 f , f  s* , f  f  s * , s * 0
n
 f , f  s , f  f 2   ai* i , f
* 2

i 0
 在 Hn 中求最佳平方逼近
= Hn =span{1, x, …, xn}C[a, b],  (x) 1, [a, b]=[0,1]
n
在 Hn 中求 n 次最佳平方逼近多项式： s ( x)   ai* xi *

i0
设* * *
a0 , a1 , , an 是下面法方称组之唯一解
.
 0 , 0 0 , 1  0 ,  n   a0   f , 0 
     系数矩
 1 , 0 1 , 1  1 ,  n   a1    f , 1  阵 Hilbe
          
     rt 阵
 n , 0 n , 1  n , n   an   f , n 
 1 1 
 1 2

n 1 
1 1  
i ,  j 
 xi  j dx 
0 i  j 1  1 1

1 
G 2 3 n2 
1  
f , j 
 f ( x) x j dx  d j
0      
 1 1 1 
  
 n 1 n2 2n  1 
e.g. 求f ( x)  1  x 2 在[0,1]上的一次最佳平方逼近多项式
1 ln(1  2) 2
解：d 0  f , 0   1  x 2 dx    1.147
0 2 2
3 1
1 2 2 -1
 1 x2 
1
d1  f , 1   x 1  x 2 dx  2   0.609
0 3 0
3
 1
 1
2   a0  1.147 
       a0  0.934, a1  0.426
 1 1   a1   0.609 
 2 3 
s* ( x)  0.934  0.426 x
平方误
2 差
 ( x) 2  f , f  s* , f  0.0026
最大误
差
 ( x)   max 0 x1 1  x 2  s* ( x)  0.066
 注：当 n 较大时， Hilbert 矩阵严重病态，数值求解方程组 Ga=
d 不稳定，因此用 {1, x, …, xn} 作基是不理想的。若能选择一
组正交函数作为基，则系数矩阵变为对角阵，法方称组易于求
解。

用正交函数族作基的最佳平方逼近
0 ( x), 1 ( x), ,  n ( x)正交，  span  0 ( x), 1 ( x),, n ( x)  C[a, b],
n
f ( x)  C[a, b], 设最佳平方逼近为 s ( x)   ai*i ( x ) *

i 0

 0 , 0   a0   f , 0  f , i
     a 
*

i , i
i
 1 , 1   a1    f , 1 
      


   
n
f , i
 n , n   an   f , n  s ( x)  
*
i ( x )
i 0 i , i
 f , i
说明：若取无穷多个正交函数作基，系数按 a 
*

i , i
i

计算，则得级数
n
f ,
f ( x)   i
i ( x )
i 0 i , i
广义付氏系
广义付氏级 数
数
广义付氏级数是付氏级数的推广，有关付氏级数的结论
对广义付氏级数都成立。
 如何求正交函数族？
从一组线性无关函数族出发 ， 用 Schmidt 正交化方法
将其规范正交化成一组规范正交函数族。
多项式正交函数族：切比雪夫多项式、勒让德多项式
、拉盖尔多项式、埃尔米特多项式等
§4 Legendre 多项式与最佳平方逼近
Legendre polynomials:
 (x) 1, [a, b]=[-1,1], {1, x, …, xn,…}, 经 Schmidt 正交化
，
即得 Legendre 多项式 (Legendre, 1785 年定义 )
1814 年， Rodrigul （罗德里克）提出一种简便形式：




 
proof :
设Pn ( x)在[ 11]
，上不变号，比如恒大于0，由
1 1
1
Pn ( x)dx   Pn ( x )P0 ( x)dx  0, 矛盾，因此至少有某一点x1 , s.t.Pn ( x1 )  0
1

Pn ( x)
假定x1是重根，则 为n  2次多项式，由
 x  x1 
2

2
1 Pn ( x)  Pn ( x) 
1
0   Pn ( x) dx     dx  0, 矛盾, x1是单根
 x  x1  1 x  x
1 2
 1 

假定有j ( j  n)个单根 : x1 ,  , x j , 则Pn ( x)   x - x1   x - x j  g ( x), g ( x)不变号

2
0   Pn ( x)  x - x1    x - x j  dx   g ( x)  x - x1    x - x j  dx与g ( x )同符号, 矛盾
1 1 2
1 1

故Pn ( x)至少有n个单根，而它又是n次多项式，故只有n个单根。
Legendre 多项式作最佳平方逼近
Legendre 多项式正交，且在 [-1,1] 上与零的平方误差最
小，因此当 f(x)C[-1,1] 时，用 Legendre 多项式作为 Hn
的基求最佳平方逼近多项式是最合适的
n

设最佳平方逼近为 s ( x)   ai Pi ( x)
* *

i 0

2i  1 1
f , Pi
a   
*
i f ( x) Pi ( x )dx
Pi , Pi 2 1
平方误差：
n
  f 2 ( x)dx   ai* f ( x ), Pi ( x )
2 1
n 2 1
i 0
n
2
f ( x) dx    ai 
1
* 2
= 2

i  0 2i  1
1
例：求f ( x )  e x 在[ 11]
，上的三次最佳平方逼近多项式
解： s3* ( x )  a0* P0 ( x )  a1* P1 ( x )  a2* P2 ( x )  a3* P3 ( x )
1
f , P0   e x dx  e  e 1  2.3504
1
1
f , P1   xe x dx  0.7358
1

 3x 2  1  x
1
f , P2     e dx  0.1431
1
 2 
1  5 x  3x 
3
f , P3     e x dx  0.02013
1
 2 
1 3
a0*  f , P0  1.1752, a1*  f , P1  1.1036,
2 2
5 7
a2*  f , P2  0.3578, a3*  f , P3  0.07046
2 2
s3* ( x )  1.1752 P0 ( x)  1.1036 P1 ( x )  0.3578 P2 ( x)  0.07046 P3 ( x)
n
2
  e dx    i   0.0084
1
2 * 2
3 2x
a
2 1
i 0 2i  1
3 
 max 1 x 1 e x  s3* ( x)  0.0112
若f ( x)  C[a, b], 求[a, b]上f ( x)的最佳平方逼近，先将[a, b]  [-11]
，
b-a ba
作变量代换：x  t , t  [-11]
，
2 2
b-a ba 
函数 F (t )  f  t  在[-11]
，上
 2 2 
可用Legendre多项式作最佳平方逼近S n* (t )，
 1 
从而得[a, b]上的最佳平方逼近 S   2x  a  b  
*
n
b-a 
§5 Chebyshov 多项式与最佳一致逼近 构造方法参见
纳唐松《函数构造论》
Chebyshov polynomials: 1
 ( x ) 
[a, b]=[-1,1], {1, x, …, xn,…}, 1 x2
经 Schmidt 正交化，即得 Chebyshov 正交多项式 (185
7年)
Tn ( x)  cos  n arccos x  , x 1
令 x  cos  , Tn ( x)  cos n , 0    
  Chebyshov 多项式的重要性质

令 x  cos  , Tn ( x)  cos n
 Tn(x) 是 x 的 n 次多项
式

  cos   i sin     cos   i sin  
in -in n n
e e
Tn ( x)  cos n  
2 2

 x    
n n
x 1  x  x 1
2 2

2
设an为x n的系数，有
n n
 1   1 
1  1  2   1  1  2 
Tn ( x)  x   x 
an  lim n  lim  2n 1
x  x x  2
 2

证明
 性质 Tn ( x)   1 Tn ( x)
n

3 Tn ( x)  cos  n arccos(- x)   cos  n - n arccos x 

  1 cos  n arccos x    1 Tn ( x)

n n

n 为奇数时， Tn(x) 是奇函数，只含 x 的奇次项；

n 为偶数时， Tn(x) 是偶函数，只含 x 的偶次项
 性质 x  1时， Tn ( x)  cos  narccosx   1
4
 性质 Tn ( x)在[ 11]
，上有n个不同的实根
5 
令x  cos  , Tn ( x)  cos n  0  n  k 
2

在[0,  ]上有根 :  k 
 2k  1 
, k  1, 2, , n
2n

即 xk  cos  k  cos
 2k  1 
, k  1, 2, , n
2n
 性质
6 T ( x)在[ 11] k
n ，上有n  1个点xk  cos , k  0,1, , n
n
轮流取最大值1和最小值 -1
k
 cos k   1 , k  0,1, , n
k
Tn ( xk )  cos n
n
 性质 Tn(x) 对零的偏差最小
7
由 Th6 知，对 [-1,1] 上任意最高项系数为 1 的 n 次多项式 Pn
*
(x), 在 Hn-1 中的最佳一致逼近为Pn 1 ( x )

则必有 Pn ( x )  Pn*1 ( x )  n ( x )
1
 P ( x )  Pn ( x )  n ( x)  Pn ( x)  n 1 Tn ( x )
*
n 1
2
1
 n 1   n 1
2
例 求f ( x)  4 x 5  x 2  3x  1在[11]
，上次数不超过4的最佳逼近多项式
1
解：令g ( x)  f ( x), 是最高次系数为1的5次多项式，
4
1 1
在[-11]，上的H 4中的最佳逼近多项式为 f ( x) - 4 T5 ( x)，
4 2
f ( x)在[11]
，上H 4中的最佳逼近多项式为
1 17
f ( x) - 4 4 T5 ( x)  5 x  x  x  1
3 2

2 4

一个 n 次多项式在 [-1,1] 上 Hn-1 中的最佳一致逼近为次数不

超过 n-1 的多项式，但不一定就是 n-1 次多项式。
  




§6 近似最佳一致逼近多项式

切比雪夫级
(6.1) 数
  
 
  
 
  
 f ( x)  M n,n-m ( x)  f ( x)  Pn ( x)  Pn ( x) - M n,n-m ( x)
 max x 1 f ( x)  Pn ( x)  max x 1 Pn ( x) - M n ,n -m ( x)
  n  bn    bn -m 1  
M n,n-m ( x)满足精度要求
 §7 曲线拟合的最小二乘法
   曲线拟合 为了应用方便
或理论分析 近似反映实际问题
一组实验数据  xi , yi  i 0,1,,m
的函数关系式 y=f
曲线拟合 (x)
 曲线拟合的一般方
法
观测数据往往不准确，因此不必要求曲线 y=f(x) 经过所有点
 xi , yi 
：
i  0,1,, m

  span  0 ( x，),故插值法不合适。一般的
1 ( x), , n ( x) ，在一个简单函数
类
n 起源于以观测和测量
s ( x)   aii ( x) 为基础的天文学，

中找一个函数
1, x , x 2
,  , x n
, i 0
基函数 历史悠久。 1794 年，
17 岁的 Gauss 用
 sin x,sin 2 x,,sin nx , 最小二乘法解决了
 e1x , e2 x , , en x  常用基函数 多余观测问题。
  拟合标
准
希望 s(x) 对数据组“拟合得最好”，衡量标准是什么？
n
s ( x)   ai i ( x)   , 记  i  s( xi )  yi , i  0,1, , m,     0 , 1, ,  m 
T

i 0

一般曲线拟合问题是
n 残差向量
求s* ( x)   ai*i ( x)  ，即求a0* , a1* , , an* , s.t.
i 0
12
 n

 * p  min s ( x )  p
 p  1, 2,   x 2    xi2   x12  x22   xn2
 i 1 
n
x 1   xi  x1  x2   xn
i 1

x   max 1i n xi  max( x1 , x2 ,, xn )

1p
 n

x p    xip   p x1p  x2p   xnp , p  [1, )
 i 1 
 p=1, 时，标准直观，也很理想，但涉及绝对值运算，使
用不便；
p=2 时，就是最小二乘法， ( 概率论中最大似然估计 :
可以使观测或实验中的偶然误差对近似函数的影响
最小。 )

上述标准的缺点：所有观测点作用均等，但有时希望某些
点 ( 比如比较准确的点 ) 作用大一些，另一些作用小一些。
这时采用带权的误差标准
n
 2     xi   s( xi )  yi 
2 2

i 0
 最小二乘法
采用加权误差标准，曲线拟合问题就是最小二乘问题，描述为：
给定一组数据  xi , yi  , i  0,1, , m
n
求s ( x)   a*j j ( x)    span  0 ( x), 1 ( x), , n ( x) ,
*

j 0

即求a0* , a1* ,, an* , s.t.

2
m m  n 
 2     xi   s  xi   yi      xi   a j j ( xi )  yi 
* 2 * 2 *

i 0 i 0  j 0 
2
m m n 
 min s ( x )    xi   s  xi   yi   min s ( x )    xi   a j j ( xi )  yi 
2

i 0 i 0  j 0 
 如何求s* ( x) ? 关于系数的
n
设 s ( x)   a j j ( x), 二次函数
j 0 2
m m  n 
记 I  a0 , a1 , , an      xi   s  xi   yi      xi    a j j ( xi )  yi 
2

i 0 i0  j 0 
I
最小二乘  0, k  0,1, , n
ak
问题等价
于求多元 I m n 
  2   xi    a j j ( xi )  yi  k ( xi )
函数 ak i 0  j 0 
I  a0 , a1 , , an 
n m m 
 2   a j    xi  j ( xi )k ( xi )     xi  yik ( xi )   0
 j 0 i 0 i 0 
n m m
  a j    xi  j ( xi )k ( xi )     xi  yik ( xi ), k  0,1, , n
j 0 i 0 i0
的极小值。
 m
记    x  ( x ) ( x ) 
i 0
i j i k i  j , k
m m

   x  y  ( x )     x  f ( x ) ( x ) 
i 0
i i k i
i 0
i i k i f , k

上式可写为
 0 , 0 0 , 1  0 ,  n   a0   f , 0 
   
 1 , 0 1 , 1  1 ,  n   a1   f , 1  (*)

          
    
 n , 0  n , 1   n ,  n   an   f ,  n 

Ga=d 关于 a0 , a1 , , an

的线性方
最小二乘解的存在性 ?
由于 0 ( x), 1 ( x),, n ( x) 线性无关， 法
Gn  0
方程组的系数行列式 a0* , a1* , 
，因此 *
(*), a存在唯一解
n
，令 n
s* ( x)   ai*i ( x)
i 0

由上面分析看出，最小二乘法只不过是最佳平方逼近在离
散情况下的一种特殊形式，同理可证，用上法求得的
n
s* ( x)   ai*i ( x)
i 0
就是最小二乘解。
同样，当基函数 0 ( x), 1 ( x),, n ( x)
关于点集 {xi} 带权函数 {(xi)} 正交时，法方程系数矩阵为
对角阵，方程组易于求解。
 用正交函数族作基的最小二乘拟合
  span  0 ( x), 1 ( x),, n ( x)
0 ( x), 1 ( x), , n ( x)关于点集 {xi} 带权函数 {(xi)} 正交 , 即满足
m
 0， j  k
 j , k     xi  j ( xi )k ( xi )  
i 0  Ak  0, j  k
n

设最小二乘解为 s ( x)   ai i ( x)
* *

m i 0

f , k   x  f  x    x 
i i k i
ak*   i 0

k , k m

  i  k  xi 
 x
i 0
 2

n m n
* 2
  Ak  a * 2
   y  A  a  * 2
2
 2
 f 2 k
2
i k k
k 0 i 0 k 0