You are on page 1of 14

UNIVERSIDADE ESTADUAL DO MARANHÃO - UEMA

CENTRO DE CIÊNCIAS TECNOLOGICAS – CCT

DEPTO DE ENGENHARIA MECÂNICA E PRODUÇÃO - DEMECP

CURSO DE ENGENHARIA MECÂNICA

DISCIPLINA: CÁLCULO NUMÉRICO

GIOVANNI AUGUSTO FERREIRA DIAS - 0512104

INTEGRAÇÃO NUMÉRICA E MÉTODO DE MÍNIMOS QUADRADOS

SÃO LUÍS - MA

2011
1 - INTRODUÇÃO

O Método dos Mínimos Quadrados, ou Mínimos Quadrados Ordinários (MQO)


ou OLS (do inglês Ordinary Least Squares) é uma técnica de otimização matemática
que procura encontrar o melhor ajustamento para um conjunto de dados tentando
minimizar a soma dos quadrados das diferenças entre o valor estimado e os dados
observados (tais diferenças são chamadas resíduos).

É a forma de estimação mais amplamente utilizada na econometria. Consiste em


um estimador que minimiza a soma dos quadrados dos resíduos da regressão, de forma
a maximizar o grau de ajuste do modelo aos dados observados.

Um requisito para o método dos mínimos quadrados é que o fator imprevisível


(erro) seja distribuído aleatoriamente, essa distribuição seja normal e independente. O
Teorema Gauss-Markov garante (embora indiretamente) que o estimador de mínimos
quadrados é o estimador não-enviesado de mínima variância linear na variável resposta.

Em matemática, os métodos de integração numérica permitem calcular o valor


aproximado de uma integral definida sem conhecer uma expressão analítica para a sua
primitiva.

A integração numérica é aplicada quando a primitiva da função não é conhecida


ou quando só conhecemos a função f(x) num conjunto discreto de pontos.
1 – MÉTODO DOS MÍNIMOS QUADRADOS

Utilizamos este método quando temos uma distribuição de pontos e queremos


ajustar a melhor curva a este conjunto de dados. Inicialmente, vamos analisar o caso em
que a curva de ajuste é uma função linear:

Para que esta seja a reta que melhor se ajusta aos dados, devemos minimizar a soma
das diferenças entre os valores de f(x) tabelados y i e os valores da curva de ajuste a+bx i em

cada ponto. Mas esta diferença pode ser tanto positiva quanto negativa, o que pode
ocasionar em uma soma nula das diferenças mesmo com os valores muito distantes da reta.
Uma forma de evitar o cancelamento é minimizar o quadrado da diferença. Poderíamos ter
escolhido minimizar o módulo da diferença, mas isto acarretaria em uma complicação nos
cálculos, devido à necessidade de se obter as primeiras derivadas. Supondo que sejam p
pontos tabelados, definimos a função:

Nossa problema agora é encontrar valores de a e de b que minimizam S(a,b). Usando


notação matricial, com os resíduos definidos por

e definindo as matrizes
em notação matricial temos que:

Onde:

Denotando:

Queremos obter os parâmetro a e b ou, em notação matricial, o vetor X de modo a


minimizar M. Para isso, o gradiente de M (ou seja, a derivada primeira da função de duas
variáveis M) deve ser nulo:

Assim, para encontrarmos a e b que faça com que a soma do quadrado das diferenças
entre yi e a+bxi seja mínima basta resolvermos o sistema linear

T
Como a matriz A A é simétrica definida positiva, o sistema linear admite solução única e
T
esta solução será o ponto crítico que será o ponto de mínimo. Efetuando os cálculos de A A
T
e de A Y temos:
2. Ajuste de Curvas por Polinômios e outras Funções:

Podemos generalizar este resultado para ajustarmos qualquer polinômio da forma

aos pontos (xi, yi). Basta fazermos:

Então, para encontrarmos os pontos a0, a1, ..., an, temos que resolver o mesmo sistema
T T T T
A AX=A Y. Efetuando os cálculos de A A e de A Y, temos:
Este procedimento pode ser generalizado para qualquer curva de ajuste da forma:

desde que as funções gj(x) avaliadas nos pontos resultem em vetores linearmente
t
independentes, que é uma condição necessária para que a matriz A A seja invertível.

2.1 - Regressão simples

Queremos estimar valores de determinada variável . Para isso, consideramos os valores de


outra variável que acreditamos ter poder de explicação sobre conforme a fórmula:

Também temos uma base de dados com valores observados de e de . Perceba


que, usando a base de dados, e são vetores, ou seja, representam uma lista de valores,
um para cada observação da base de dados. O método dos mínimos quadrados ajuda a
encontrar as estimativas de e . Como o nome diz, serão somente estimativas desses
parâmetros, porque o valor real dos parâmetros são desconhecidos. Portanto, ao fazer a
estimativa, mudamos a notação de algumas variáveis:

Desse modo, ao estimar o modelo usando a base de dados, estamos estimando,


na verdade:
onde indica cada uma das observações da base de dados e passa a ser chamado de
resíduo, ao invés de erro. Em alguns livros, a notação para as estimativas dos
parâmetros é um pouco diferente. Ao invés de substituir a letra, apenas adiciona-se o
símbolo chapéu ( ).

O método dos mínimos quadrados minimiza a soma dos quadrado dos resíduos, ou seja,
minimiza

A ideia por trás dessa técnica é que, minimizando a soma do quadrado dos resíduos,
encontraremos e que trarão a menor diferença entre a previsão de e o realmente
observado.

Substituindo por , temos:

A ideia por trás dessa técnica é que, minimizando a soma do quadrado dos resíduos,
encontraremos e que trarão a menor diferença entre a previsão de e o realmente
observado.

Substituindo por , temos:

A minimização se dá ao derivar em relação a e e igualar a zero:

Distribuindo e dividindo a primeira expressão por temos:


onde é a média amostral de e é a média amostral de .

Substituindo esse resultado na segunda expressão temos:

Alguns livros também usam uma fórmula diferente que gera o mesmo resultado:

2.2 - Regressão Mutilplas

A regressão múltipla apresenta um funcionamento parecido com o da regressão simples,


porém, leva em consideração diversas variáveis explicativas influenciando ao
mesmo tempo:

Ao usar a base de dados com variáveis explicativas e observações, o modelo pode


ser escrito na forma matricial:
, onde representa o valor da -ésima variável da -ésima observação. A fórmula
também pode ser escrita na forma resumida:

A solução de mínimos quadrados continua sendo alcançada através da minimização da

soma do quadrado dos erros , que pode ser reescrito como , onde o apóstrofe
significa que a matriz foi transposta.

Substituindo por , temos:

A minimização se dá ao derivar em relação à e igualar a zero. O primeiro termo


não depende de , os segundo e terceiro termos são iguais e o terceiro termo é uma
forma quadrática dos elementos de .

2.3 – Ajuste Não-Linear:

Existem casos, onde o diagrama de dispersão de uma função indica que os dados
devem ser ajustados por uma função que não é linear. Desta forma, um processo de
linearização deve ser empregado, para que seja possível aplicar o Método dos Mínimos
Quadrados. Neste caso podemos proceder da seguinte forma para a função abaixo:
2.4 EXERCICIOS

You might also like