Professional Documents
Culture Documents
Mínimos Quadrados
É utilizado quando:
f(x)
g(x)
∑ ∣r ( x)∣ ∑ r 2 ( x)
x x
O problema é escolher adequadamente a família de funções
aproximadoras.
m
g ( x)=∑ a k g k ( x)
k =0
Regressão Linear
r ( x i )= f ( x i )− g ( x i )
g ( x)=a 0 +a 1 x
i 1 2 3 4
xi 2 4 6 8
f (xi ) 1 2 2,5 4
n n
E (a 0 , a 1 ) = ∑ (r ( x i ))2 = ∑ ( f ( xi )−g ( xi ))2
i=1 i=1
g ( x i )=a 0 +a 1 xi
g ( x i )=a 0 +a 1 xi
n n
E (a 0 , a 1 ) = ∑ ( f ( xi )−g ( xi ))2 = ∑ ( f ( x i )−a0−a 1 xi )2
i=1 i=1
∂ E (a 0 , a 1) ∂ E (a 0 , a 1)
=0 =0
∂ a0 ∂ a1
n n
2 ∑ ( f ( x i )−a 0−a 1 x i )(−1) = 0 2 ∑ ( f ( x i )−a 0−a 1 xi )(−x i ) = 0
i=1 i=1
n n n n n n
−∑ f ( x i )+ ∑ a 0+ ∑ a 1 x i = 0 −∑ xi f ( xi )+ ∑ a 0 xi + ∑ a 1 x 2i = 0
i=1 i=1 i=1 i=1 i=1 i=1
n n n n n n
∑ a 0 + ∑ a1 x i = ∑ f ( x i ) ∑ a 0 xi + ∑ a 1 x 2
i = ∑ x i f ( xi )
i=1 i=1 i=1 i=1 i=1 i=1
n n n n n n
a 0 ∑ 1+ a 1 ∑ xi = ∑ f ( x i ) a0 ∑ xi+ a1 ∑ x = ∑ xi f ( xi) 2
i
i=1 i=1 i=1 i=1 i=1 i=1
n n n
a0 ∑ 1 + a1 ∑ xi = ∑ f ( xi )
i=1 i=1 i=1
Equações Normais
n n n
a 0 ∑ x i + a 1 ∑ xi2 = ∑ xi f ( xi)
i=1 i=1 i=1
[ ] [ ]
n n
n
∑ 1 ∑ xi ∑ f ( xi)
i=1
n
∑ xi ∑ x
i=1
n
2
i
[]
a0 =
a1
i=1
n
∑ xi f ( xi )
Sistema Normal
i=1 i=1
i=1
n n n n n n n
a 0 ∑ 1 ∑ x + a1 ∑ x i ∑ x = ∑ f ( xi) ∑ xi
2 2 2
Eq.1 ∑x 2
i
i=1 i=1
i
i=1 i=1
i
i=1 i=1
Eq.3
i=1
n n n n n n n
n n n n n n n n
Eq.3 + Eq.4 a 0 ∑ 1 ∑ x i − a 0 ∑ xi ∑ x i = ∑ f ( x i ) ∑ x i − ∑ xi ∑ x i f ( x i )
2 2
( (∑ ) )
n n 2 n n n n
a0 n ∑ x − 2
i xi = ∑ f ( xi ) ∑ x 2
i − ∑ xi ∑ x i f ( x i )
i=1 i=1 i=1 i=1 i=1 i=1
n n n n
∑ f ( x i ) ∑ xi2 − ∑ xi ∑ xi f ( xi)
i=1 i=1 i=1 i=1
a0 = 2
(∑ )
n n
n ∑ xi2 − xi
i=1 i=1
n n n n n n
a 0 ∑ 1 ∑ x i2 + a 1 ∑ xi ∑ x i2 = ∑ f ( xi ) ∑ xi2 Eq.3
i=1 i=1 i=1 i=1 i=1 i=1
n n n n
n ∑ f ( xi ) ∑ x i − ∑ xi ∑ f ( xi)
i=1 i=1 i=1 i=1
a1 = 2
(∑ )
n n
n∑ x − 2
i xi
i=1 i=1
( a0 , a1 ) é um ponto de mínimo de E ( a0 , a1 ) se o seu Hessiano 2E (a0 , a1 ) é
uma forma definida positiva.
[ ]
2 2
∂ E ( ā0 , ā1 ) ∂ E ( ā0 , ā1 )
2
2 ∂ E ( ā0 , ā1 ) ∂ a 02 ∂ a1 ∂ a0
∇ E ( ā0 , ā1 ) = 2
= 2
∂a ∂ E ( ā0 , ā1 ) ∂2 E ( ā0 , ā1 )
∂ a0 ∂ a1 ∂ a1
2
Exemplo de Regressão Linear
i 1 2 3 4
xi 2 4 6 8
f (xi ) 1 2 2,5 4
i 1 2 3 4
xi 2 4 6 8
f (xi ) 1 2 2,5 4
g ( x)=a 0+ a 1 x
n n n n
∑ f ( xi )∑ x 2
i − ∑ xi ∑ xi f ( xi)
i=1 i=1 i=1 i=1
a0 = 2
(∑ )
n n
n ∑ xi2 − xi
i=1 i=1
n n n
n ∑ xi f ( xi) − ∑ xi ∑ f ( x i )
i=1 i=1 i=1
a1 = 2
(∑ )
n n
n∑ x − 2
i xi
i=1 i=1
a0 = 0 e a 1 = 0,475
g ( x) = 0,475 x
i 1 2 3 4
xi 2 4 6 8
f (xi ) 1 2 2,5 4
g (xi ) 0,95 1,9 2,85 3,8
Método dos Mínimos Quadrados
Caso Geral
∑ a k g k ( x) = a 0 g 0 ( x) + a 1 g 1 ( x) + ⋯ + a m g m ( x)
k=0
i=1
n
∂ E (a 0 , ... , a m)
= 2 ∑ ( f ( x i )−a 0 g 0 ( xi )− ⋯ −a m g m ( x i ))(−g 0 ( x i )) = 0
∂ a0 i=1
n
∂ E (a 0 , ... , a m)
= 2 ∑ ( f ( x i )−a 0 g 0 ( xi )− ⋯ −a m g m ( x i ))(−g 1 ( xi )) = 0
∂ a1 i=1
⋮ ⋮
n
∂ E (a 0 , ... , a m)
= 2 ∑ ( f ( x i )−a 0 g 0 ( xi )− ⋯ −a m g m ( x i ))(−g m ( x i )) = 0
∂ am i=1
n
∂ E (a0 , ... , a m )
= 2 ∑ ( f ( x i )−a 0 g 0 ( x i )− ⋯ −a m g m ( x i ))(− g s ( x i )) = 0
∂ as i=1
0⩽ s ⩽m
n
2 ∑ ( f ( x i )−a 0 g 0 ( x i )− ⋯ −a m g m ( xi ))(−g s ( x i )) = 0
i=1
0⩽ s ⩽m
n n n
−∑ f ( xi ) g s ( x i )+ ∑ a 0 g 0 ( x i ) g s ( x i )+ ⋯ + ∑ a m g m ( x i ) g s ( x i ) = 0
i=1 i=1 i=1
n n n
∑ a 0 g 0 ( x i ) g s ( xi )+ ⋯ + ∑ a m g m ( xi ) g s ( xi ) = ∑ f ( xi ) g s ( xi )
i=1 i=1 i=1
n n n
a 0 ∑ g 0 ( x i ) g s ( x i )+ ⋯ + a m ∑ g m ( x i ) g s ( x i ) = ∑ f ( x i ) g s ( x i )
i=1 i=1 i=1
Exemplo de um Caso Geral
com Domínio Discreto
Observando um sinal no osciloscópio, verifica-se que ele
corresponde à superposição de dois efeitos, um oscilatório e outro
crescente. Assim, vamos aproximá-lo por uma função da família g(x) =
a0 x + a1 cos(x).
i 1 2 3 4
xi 2 4 6 8
f (xi ) 1 2 2,5 4
g ( x) = a 0 x+ a 1 cos( x)
g 0 ( x) = x
g 1 ( x) = cos( x)
n n n n
a 0 ∑ g 0 ( x i ) g s ( x i )+ a 1 ∑ g 1 ( x i ) g s ( x i )+ ⋯ + a m ∑ g m ( x i ) g s ( x i ) = ∑ f ( x i ) g s ( x i )
i=1 i=1 i=1 i=1
0⩽ s ⩽m
4 4 4
a 0 ∑ g 0 ( x i ) g 0 ( xi )+ a 1 ∑ g 1 ( x i ) g 0 ( x i ) = ∑ f ( x i ) g 0 ( xi )
i=1 i=1 i=1
4 4 4
a 0 ∑ g 0 ( x i ) g 1 ( x i )+ a 1 ∑ g 1 ( xi ) g 1 ( x i ) = ∑ f ( xi ) g 1 ( x i )
i=1 i=1 i=1
4 4 4
a 0 ∑ (g 0 ( x i ))2 + a 1 ∑ g 1 ( xi ) g 0 ( x i ) = ∑ f ( x i ) g 0 ( x i )
i=1 i=1 i=1
4 4 4
a 0 ∑ g 0 ( x i ) g 1 ( x i )+ a 1 ∑ ( g 1 ( x i ))2 = ∑ f ( xi ) g 1 ( x i )
i=1 i=1 i=1
g 0 ( x) = x g 1 ( x) = cos( x)
i 1 2 3 4
xi 2 4 6 8
f (xi ) 1 2 2,5 4
g0(xi ) 2 4 6 8
g1(xi ) -0,4161 -0,6536 0,9602 -0,1455
a 0 = 0,4778 e a 1 = −0,2945
i 1 2 3 4
xi 2 4 6 8
f (xi ) 1 2 2,5 4
g (xi ) 1,0782 2,1038 2,5842 3,8654
Exemplo de Aproximação por uma Família de
Funções Não Lineares nos Parâmetros
g ( x) = a 0 g 0 ( x) + a 1 g 1 ( x) + a 2 g 2 ( x) + ⋯
g ( x) = a e b x
ln( g ( x)) = a 0 + a 1 x
onde a 0 = ln(a) e a1 = b
a0
a=e e b = a1
i 1 2 3 4
xi 2 4 6 8
f (xi ) 1 2 2,5 4
ln ( f (xi )) 0 0,6931 0,9163 1,3863
n n n n
∑ f ( x i ) ∑ xi2 − ∑ xi ∑ xi f ( xi)
i=1 i=1 i=1 i=1
a0 = 2
(∑ )
n n
n ∑ xi2 − xi
i=1 i=1
n n n
n ∑ xi f ( xi) − ∑ xi ∑ f ( x i )
i=1 i=1 i=1
a1 = 2
(∑ )
n n
n ∑ x 2i − xi
i=1 i=1
a 0 = −0,3466 e a 1 = 0,2191
bx
g ( x) = a e ln( g ( x)) = ln (a ) + b x = a 0 + a 1 x
onde a 0 = ln(a) e a1 = b
a0
a 0 = ln(a) ⇒ e =a ⇒ a = e−0,3466 ⇒
a = 0,7071
b = 0,2191
0,2191 x
g ( x) = 0,7071 e
g ( x) = 0,7071 e 0,2191 x
i 1 2 3 4
xi 2 4 6 8
f (xi ) 1 2 2,5 4
g (xi ) 1,0959 1,6986 2,6327 4,0805
Agora, vamos aproximar a função f tabelada, por uma função g não
linear nos parâmetros, da família:
g ( x) = a xb
ln( g ( x)) = a 0 + a 1 ln ( x)
onde a 0 = ln(a) e a1 = b
a0
a=e e b = a1
g ( x) = a xb
i 1 2 3 4
xi 2 4 6 8
ln ( xi ) 0,6931 1,3863 1,7918 2,0794
f (xi ) 1 2 2,5 4
ln ( f (xi )) 0 0,6931 0,9163 1,3863
a 0 = −0,6627 e a 1 = 0,9489
a0
a 0 = ln(a) ⇒ a=e ⇒ a = e−0,6627 ⇒
a = 0,5155 b = 0,9489
g ( x) = 0,5155 x0,9489
Série de Taylor
Série de Potências
Uma Série de Potências é uma série da forma:
∞
∑ cn x n = c0 + c 1 x + c 2 x 2 + c 3 x 3 + ⋯
n=0
Tomando x = a, obtemos:
f (a) = c 0
c0 = f (a)
f ( x) = c 0 + c1 ( x−a) + c 2 ( x−a)2 + c3 ( x−a)3 + ⋯ + c n ( x−a)n + ⋯ (1)
Tomando x = a, obtemos:
f ' (a) = c 1
f ' (a)
c1 =
1!
2 3 n−1
f ' ( x) = c 1 + 2 c 2 ( x−a) + 3 c 3 ( x−a ) + 4 c 4 ( x−a) + ⋯ + n c n ( x−a ) + ⋯ (2)
2 n−2
f ' ' ( x) = 2 c 2 + 2⋅3 c 3 ( x−a ) + 3⋅4 c 4 ( x−a) + ⋯ + (n−1)⋅n c n ( x−a) + ⋯ (3)
Tomando x = a, obtemos:
2 n−2
f ' ' (a) = 2 c 2 + 2⋅3 c 3 (a−a) + 3⋅4 c 4 (a−a ) + ⋯ + (n−1)⋅n c n (a−a ) +⋯
Tomando x = a, obtemos:
n=0
(n)
f (a)
Substituindo o coeficiente c n = na função f acima, obtemos:
n!
∞
f (n) (a)
f ( x) = ∑ ( x−a)n
n=0 n!
∞
f (n) (0) n
f ( x) = ∑ x
n=0 n!
∞
f (n) (a)
f ( x) = ∑ ( x−a)n
n=0 n!
f (1) (a)
P 1 ( x) = f (a) + ( x−a)
1!
Para n = 1:
f (1) (a)
P 1 ( x) = f (a) + ( x−a)
1!
f (1) (0)
Como a = 0: P 1 ( x) = f (0) + x
1!
cos(0)
P 1 ( x) = sen(0)+ x
1
P 1 ( x) = 0 + 1 x ⇒ P 1 ( x) = x
Para n = 2:
Como a = 0:
cos(0) sen(0) 2
P 2 ( x) = sen(0) + x− x
1 2
0
P 2 ( x) = 0+ 1 x− ⇒ P 2 ( x) = x
2
Para n = 3:
Como a = 0:
1 x3
P 3 ( x) = 0+ 1 x−0− x 3 ⇒ P 3 ( x) = x−
6 6
Para n = 5:
f (1) (0) f (2) (0) 2 f (3) (0) 3 f (4) (0) 4 f (5) (0) 5
P 5 ( x) = f (0) + x+ x + x + x + x
1! 2! 3! 4! 5!
1 1 5
P 5 ( x) = 0+ 1 x−0− x 3+ 0+ x
6 120
x 3 x5
P 5 ( x) = x− +
6 120
Para n = 7:
1 1 5 1
P 7 ( x) = x− x 3+ x− x7
6 120 5040
x3 x5 x7
P 7 ( x) = x− + −
6 120 5040
Linearização por Expansão em Série de Taylor
Para linearizar uma função, podemos expandir a função não-linear
em Série de Taylor em torno de um ponto, desprezando-se todos os
termos após a primeira derivada.
f (1) (a)
f ( x) ≈ f (a) + ( x−a)
1!
onde a− ̄a = ε0
h(a , b) = a eb x
̄ ∂ h( ā , ̄b ) ∂ h( ā , ̄b )
h(a , b) ≈ h( ̄a , b ) + (a− ̄a ) + (b−̄b )
∂a ∂b
onde: a− a
̄ = ε0 e b−̄b = ε1
∂ h( a
̄ , ̄b ) ∂ h( a
̄ , ̄b )
h(a , b) ≈ h( ā , ̄b ) + ε0 + ε1
∂a ∂b