You are on page 1of 17

REGRESI LINIER SEDERHANA

SAFAAT YULIANTO

MODEL REGRESI LINIER SEDERHANA


Model regresi linier sederhana adalah suatu model yang terdiri
dari satu variabel dependen dan satu variabel independen. Model
regresi linier sederhana digambarkan sebagai berikut :

Yi 0 1 X i i
Yi = Variabel Dependen
X i = Variabel Independen

0 = Intersep
1 = Koefisien Regresi/Kemiringan garis regresi/untuk mengukur

besarnya pengaruh x terhadap y kalau x naik satu unit.


i = Error

Taksiran Persamaan Regresi Linier :

Y 0 1 X 1

METODE KUADRAT TERKECIL


ORDINARY LEAST SQUARE (OLS)
Apabila kita memiliki segugus data berpasangan x , y ; i 1,2,..., n
i
i
maka nilai b

dan

dapat ditentukan dengan cara

b1

meminimalkan JKG.Dengan kalkulus diferensial, didapatkan


n
n
rumus sebagai
berikut:

JKG e yi y i
i 1

2
i

i 1

i 1

n xi yi

i 1

2
i

i 1

x
i 1

i 1
2

x y

n x
i 1

yi 0 1 xi

0 y 1 x

ASUMSI-ASUMSI METODE
OLS
Taksiran/estimator yang diperoleh dengan metode OLS akan
memenuhi syarat sebagai estimator yang baik yaitu tak bias,
efisien, dan konsisten jika memenuhi asumsi sebagai berikut :
1.

merupakan variabel acak.

KarenaY memiliki distribusi, sedangkanX


maka

tidak memiliki distribusi

juga memiliki distribusi yang sesuai dengan .

Y X
Komponen
random

Komponen
sistematis

Komponen
random

2.E ( i ) 0
dengan demikian,

E (Yi ) E ( 0 1 X i i ) E ( 0 1 X i )
3. Variansi error konstan (Homoskedastisitas)

Var ( i X 1 ) Var ( i X 2 ) ... Var ( i X i ) 2


sebagai akibatnya :

Var (Yi X 1 ) Var (Yi X 2 ) ... Var (Yi X i ) 2


4. Residual berdistribusi normal, sebagai akibatnya variabel
dependen juga berdistribusi normal
Asumsi 1-4 ASUMSI NORMALITAS

i ~ N (0, 2 )

Untuk menguji normalitas residual, dapat digunakan metode grafik


dengan membuat plot antara ei vs pi . Dimana ei sebagai axis dan pi
sebagai ordinat. Jika membentuk suatu garis lurus, maka asumsi
normalitas terpenuhi.
Dimana :

ei adalah residual yang diurutkan dari kecil ke besar


Pi =(i-0,5)/n

Pengujian untuk mendeteksi pelanggaran asumsi normalitas


dapat dilakukan dengan uji Kolmogorov-Smirnov, uji AndersonDarling, uji Shapiro-Wilk, dan uji Jarque-Bera.
Penyebab tidak terpenuhinya asumsi normalitas adalah :
1. Ada data pencilan (outlier)

2. Data dimungkinkan memang tidak berdistribusi normal atau


berdistribusi lain, seperti eksponensial, gamma, dll.

5. Nonautokorelasi
Artinya, pengamatan ke-i dan pengamatan ke-j saling bebas
(independen).

Cov ( i , j ) 0
Untuk menguji ada tidaknya autokorelasi, dapat digunakan
metode grafik dengan membuat plot antara e(t) vs e(t-1) . Dimana
e(t) sebagai ordinat dan e(t-1) sebagai axis.
Atau menggunakan plot antara residual (ordinat) vs waktu
(axis).

Jika

plotnya

berpola

acak

maka

asumsi

nonautokorelasi terpenuhi.
Jika membentuk suatu pola tertentu (siklik, kuadratik,
linier) maka terdapat autokorelasi.

Pengujian untuk mendeteksi pelanggaran asumsi normalitas


dapat dilakukan dengan dapat dilakukan pengujian Durbin
Watson dan pengujian ACF (Autocorrelation Function)
Penyebab tidak terpenuhinya asumsi ini adalah :
1. Adanya variabel independen penting yang tidak masuk
di dalam model
2. Data pengamatan merupakan data time series, adanya
manipulasi data.

3. Homogenitas Varian (homoskedastisitas)

Var ( i X 1 ) Var ( i X 2 ) ... Var ( i X i ) 2


sebagai akibatnya :

Var (Yi X 1 ) Var (Yi X 2 ) ... Var (Yi X i ) 2


Homogenitas Varian (homoskedastisitas) berarti bahwa
variansi dari error bersifat konstan (tetap). Lawan dari
homoskedastistias adalah heteroskedastisitas
Untuk

mengidentifikasi

pelanggaran

asumsi

secara

homogenitas

formal
varian,

adanya
dapat

dilakukan pengujian uji Park, uji Glejser, Uji GoldQuandt, dan uji Breusch-Pagan.

Untuk menguji terpenuhi tidaknya homogenitas variansi, maka


dapat digunakan metode grafik dengan membuat plot antara
1. Variabel dependen (Y) dengan masing-masing variabel
independen (X). Y sebagai ordinat dan X sebagai axis.

i dengan prediksi dari variabel dependenY

2.

3.

ei2

Dengan variabel indedependen (X)

Jika di dalam grafik dihasilkan plot yang tidak berpola, maka


homogenitas variansi terpenuhi.

Penyebab tidak terpenuhinya asumsi homogenitas varian


adalah :
1. Adanya manipulasi data
2. Kesalahan input data
3. Data pengamatan merupakan data time series
4. Terjadi kasus heteroskedastisitas alami misalnya
pada data ekonomi

TABEL ANALISIS VARIAN


(ANOVA)

Perhatikan penguraian persamaan di bawah ini :

( yi y ) ( yi y i ) ( y i y )

( yi y ) ( y i y ) ( yi y i )
n

i 1
n

i 1
n

2
(
y

y
)
( y i y ) ( yi y i )
i

(
y

y
)

(
y

y
)

(
y

y
)
i
i
i i
i 1

i 1

JKT JKR JKG

i 1

TABEL ANALISIS VARIAN


(ANOVA)

Sumber
Variasi

JK

( y
i 1

y)

Galat

( yi yi )

(y
i 1

Hipotesis :
H 0 : 1 0
H 1 : 1 0

F-hit

y
)
i

RKR ( y i y ) 2 / 1
i 1

RKR / RKG

n-2

i 1

Total

RK
n

Regresi

dk

RKG ( yi y i ) 2 /(n 2)
i 1

n-1

Statistik Uji :

RKR
Fhit
~ F1,n2
RKG

Kriteria Penolakan :
Tolak HN jika
F hitung> Ftabel
Uji F disebut pula uji
serentak

Uji t (Uji Individual)

H0 : 1=0 vs H1: 1 0
Statistik uji:
b1
T
Sb 1
s2
Sb1
2
(
x

x
)
i
s2

(
y

y
)
i i

n2

Ho ditolak jika |T| > t-tabel


(n-2)

KOEFISIEN KORELASI

(R2 )

Koefisien korelasi diformulasikan sebagai


berikut :
n

R2
Nilai

0 R2 1

R 2 0,

JKR

JKT

( y
i 1
n

y)2

2
(
y

y
)
i
i 1

berarti model regresi yang terbentuk tidak tepat untuk


meramalkan nilai variabel dependen,hal ini disebabkan karena
tidak adanya hubungan antara variabel independen dan

R 2 1,

variabel dependen .
berarti bahwa model regresi yang terbentuk dapat meramalkan
nilai variabel dependen dengan sempurna.

Latihan
:
Diduga
kemampuan siswa di mata pelajaran Matematika mempengaruhi
kemampuannya

di

mata

pelajaran

Fisika.

Dua

belas

mempunyai nilai Matematika dan Fisika sebagai berikut :


i

Mtk

Fsk

10

11

12

mahasiswa

a. Gambarlah plot antara X dan Y


b. Hitunglah nilai koefisien regresinya
c. Ujilah

asumsi-asumsi

klasik

(normalitas,

homogenitas varian, nonautokorelasi) dengan


metode grafik
d. Buatlah tabel ANOVA kemudian lakukan Uji
Serentak (Uji F)
e. Lakukan uji t
f. Hitung nilai koefisien determinasi

You might also like