Resume Model Statistik Non-Linier

[TUGAS ETS MATA KULIAH: COMPUTER INTENSIVE]

Adi Wijaya
NRP. 1310201720
Program Pascasarjana, Jurusan Komputasi Statistika, Fakultas MIPA, Institut Teknologi Sepuluh Nopember, Surabaya Email: adiw@bps.go.id

Pada umumnya banyak dijumpai dalam berbagai penelitian yang menyelesaikan

Model non linier dapat dibagi menjadi dua bagian yaitu model liniear intrinstik dan model non linier instrinsik. a. Model linier intrinsik

Jika suatu model adalah linier intrinsik, maka model ini dapat dinyatakan melalui

bentuk nonlinier eksponential:

ad

transformasi yang tepat terhadap parameter ke dalam bentuk linier yang baku. Misalnya,

iw

Persamaan ini dapat ditransformasi melalui pelogalgoritmaan dengan basis e ,menjadi bentuk: lnY 1 2 X e b. model nonlinier intrinstik Jika suatu model nonlinier instrnsik maka model ini tidak dapat diuah menjadi bentuk baku linier. Misalnya :

ta l

ks

.w

sebagai alternatiif memecahkan persoalan tersebut.

Y exp(1 2 x e)

or

dapat diselesaikan dengan pendekatan linier. Oleh karena itu model non-linier dapat digunakan

dp

parabolik dsb. Tidak sedikit peneliti yang terpaksa berhenti ketika menemui kasus yang tidak

re

ditransformasi menjadi model linier antara lain model eksponensial, eksponensial negatif,

ss

tranformasi model non linier dalam bentuk linier. Beberapa model non linier yang bisa

.c

berbagai masalah ekonomi dengan metode atau model dengan pendekatan linier atau

om

1 2

exp(2 x) exp(1 x) e

Model ini tidak mungkin dapat diubah kedalam bentuk linier dalam parameternya Mirip dengan model linier pada umumnya, estimasi parameter-parameter model non linier didasarkan pada minimisasi atau maksimisasi fungsi objektif yaitu sum squared errors dan likelihood function. Perbedaannya terletak pada proses estimasi parameter-parameter model non-linier yang memerlukan penyelesaian yang cukup rumit. Hal ini disebabkan banyaknya pertimbangan yang harus dilibatkan dalam static optimization yaitu proses menentukan titik optimum secara statis. Pertimbangan-pertimbangan tersebut antara lain adalah perlu atau tidaknya constraint yang akan mendefinisikan letak titik optimum dan kondisi sufficient untuk

dengan melakukan suatu prosedur yang menjamin estimator tersebut secara nyata memenuhi kriteria dari fungsi tujuan, yaitu memberikan sum of squares error pada titik yang paling minimum atau memberikan titik maksimum pada likelihood function nya. Dengan kata lain, dalam estimasi parameter model non-linear diperlukan pengetahuan mengenai static

digunakan dalam prosedur iterasi sebagaimana diterapkan dalam Gauss-Newton Algorithm, Marquardt-Levenberg Iterative Model, sedangkan second derivative test digunakan dalam prosedur iterasi Newton-Rhapson Algorithm dan Quadratic-Hill Climbing Model. Sementara itu, dalam penaksiran maximum likelihood akan digunakan Iterative NewtonRhapson, Scoring Method dan pendekatan Iterative Berndt, Hall, Hall and Hausman.

*special choice Metode Marquardt-Levenberg mengaplikasikan metode iterasi seperti halnya Gauss-Newton Method, yaitu menggunakan FOC atau first order condition (Gauss-Newton) dari persamaan
2

ad

non-linear akan digunakan sebagai operasi first dan second derivative test. First derivative test

iw

Penentuan titik optimum yang diyakini sebagai solusi dalam estimasi parameter model

ta l

optimization theory.

ks

.w

or

dp

Estimator pada least square rule yang diterapkan pada model non-linear ditentukan

re

function.

ss

berbeda untuk estimator yang sama yang dikarenakan random error- nya mempunyai power

.c

local atau global minimum. Estimasi parameter model non-linear akan menghasilkan nilai yang

om

Sum of Least Square Error, bedanya dengan menambahkan perkalian skalar dan matrik identitas , serta bebas dalam menentukan panjang langkahnya, tn

t = bebas

Dari hasil plot antara x dan y (dalam hasil), menunjukan hubungan nonlinier. Dengan menggunakan Marquardt-Levenberg Iterative Model untuk memperoleh estimasi parameter model nonlinier tersebut. berikut ini data dan syntax untuk program Matlabnya:
%Latihan data non linier dengan model nonlinier %Estimasi parameter model nonlinier %Dengan menggunakan Least Square %Iterasi Marquandt-Levenberg %Memerlukan file-file: f1, L1 numgradf1, numgradS1 clear; Dataku=[5.4293 6.6871 8.1879 5.5530 5.5175 7.4104 6.7105 6.6477 8.9496 6.6425 6.2364 8.3695 6.2046 6.6307 8.5519 6.1883 6.0521 8.3299 6.5191 6.1137 8.4877 6.6174 6.7056 9.1260 6.5889 6.7393 8.7961 6.5439 6.8648 8.7941 6.1269 4.4308 6.8657 6.8886 3.0445 5.7132 6.6931 5.6870 8.1641 6.0615 5.6240 7.9482 5.4424 6.3026 8.1264 6.4983 4.8598 7.2432 6.4473 2.8332 5.2521 4.0775 6.8090 7.7220 6.6983 5.4072 8.0002 6.6307 4.9767 7.3157 3.9120 5.0814 5.9833 6.7130 1.7918 4.4132 6.1800 6.7286 8.7229 6.5250 6.2558 8.6233

ad

iw

ta l

ks

.w

or

dp

re

ss

.c

om

CONTOH LATIHAN DENGAN DATA

4.7536 6.8352 7.8589 6.0868 6.2046 8.0981 6.1225 5.5784 7.5533 5.8348 4.5218 6.8249 5.8805 6.1841 8.2967 5.0876 6.8395 8.1922]; L = Dataku(:,1) ; K = Dataku(:,2) ; Q = Dataku(:,3) ; y = Q; x = [L K] ; T = length (x); tic ; plot (Dataku); % Gauss-Newton Iterations rep = 1000 ;%the size of 'rep' depends on the convergence the initial value b = [0.5; 0.5; 0.5]; %initial values of b, replace this if necessary 0,8; 0,5 & 0,3 k = length(b) ; e = eye(k) ; f = f1(b,x) ; S = (y-f)'*(y-f) ; j1 = 0 ; j2 = 0 ; tn = 1 ; %dapat diubah mis 2, 3,4 dst lamda = 10 ;% bisa diubah2 1,2 dst for i = 1:rep ; z = numgradf1(b,x);%Numerical gradient of f1 zS = numgradS1(b,x,y) ;%Numerical gradient of S1 step = -0.5*inv(z'*z + lamda*eye(k))*zS ; % Marquardt-Levenberg Iterations bnext = b + step ; fnext = f1(bnext,x) ; Snext = (y-fnext)'*(y-fnext) ; while Snext < S & j1 <=100; step = step*tn; % Perubahan tn bnext = b+step; fnext = f1(bnext,x); Snext = (y-fnext)'*(y-fnext); j1 = j1+1; w1 = i; end; while Snext > S & j2 <=100; step = step/tn; % Perubahan tn bnext = b+step; fnext = f1(bnext,x); Snext = (y-fnext)'*(y-fnext); j2 = j2+1; w2 = i; end; if norm(bnext-b) <= 1e-9 & abs(S-Snext) <= 1e-9 disp('Sudah konvergen. Dengan jumlah iterasinya adalah:') ; disp(i) ; break ; end ; if i == rep disp('Belum konvergen, iterasinya perlu ditambah lagi.') ; disp('Atau ubahlah initial values-nya dengan') ;

ad

iw

ta l

ks

.w

or

dp

re

ss

.c

om

disp(' ') ; end ; b = bnext ; f = f1(b,x) ; S = (y-f)'*(y-f) ; end ; disp('Estimator dari penggunaan iterasi Marquardt-Levenberg adalah:') ; [bnext' S] t1 = toc ; % Menentukan Nilai AIC dan SC % Menggunakan file L1.m LL = L1(b,x,y); % Output diperoleh berupa skalar 1x1 AIC = abs(-2*LL+2*k); SC = abs(-2*LL+log(T)*k); disp ('Nilai AIC dan SC adalah:'); [AIC SC]

------------------------------------------

%file L1 function LL = L1(b,x,y) %Log of likelihood function for the function %L = L1(b,x,y), Outputnya berupa scalar dengan dimensi 1x1 T = length(x); f = f1(b,x); s2 = (y-f)'*(y-f)/T; LL = -0.5*(log(2*pi*s2) + (y-f)'*(y-f)/s2); %file numgradf1.m function z = numgradf1(b,x) %Numerical z (numerical gradient of f1) k = length(b); d = 1e-7; e = eye(k); for j=1:k ; % Numerical gradients bplus = b + d*e(:,j); fplus = feval('f1',bplus,x) ; bmin = b - d*e(:,j) ;

ad

iw

ta l

%File f1.m function f = f1(b,x) %f1 Cobb-Douglas production function %f = f1(b,x) L = x(:,1) ; K = x(:,2) ; b1 = b(1,:); b2 = b(2,:); b3 = b(3,:); f = b1*(L.^b2).*(K.^b3); %File fungsi.m function z=fungsi(x) z=(3*x(1))+(2*x(2))+(4*x(3));

ks

.w

or

dp

re

ss

.c

File-file yang diperlukan adalah f1, L1 numgradf1, numgradS1 dengan syntax sbb:

om

fmin = feval('f1',bmin,x) ; z(:,j)= (fplus - fmin)/(2*d); end; %File numgradS1.m function z = numgradS1(b,x,y) %Numerical z (numerical gradient of L) %Output berupa vector berdimensi Kx1 k = length(b); d = 1e-6; e = eye(k); for j=1:k; % Numerical gradients bplus = b + d*e(:,j) ; fplus = feval('f1',bplus,x) ; Splus = (y-fplus)'*(y-fplus); bmin = b - d*e(:,j) ; fmin = feval('f1',bmin,x) ; Smin = (y-fmin)'*(y-fmin); z(j,:) = (Splus - Smin)/(2*d); end;

Sudah konvergen. Dengan jumlah iterasinya adalah: 85 Estimator dari penggunaan iterasi Marquardt-Levenberg adalah: ans =

ad

iw

ta l

ks

.w

or

dp

re

ss

Dengan output sbb:

.c

om

1.4737 0.3735 0.5741 0.5936 Nilai AIC dan SC adalah: ans = 33.9150 38.1186

ad

iw

ta l

ks

.w

or

dp

re

ss

.c

om