PROBABILISTIC NEURAL NETWORK

Probabilistic neural network dominan sebagai pengklasifikasi. PNN adalah

implementasi dari algoritma statistik disebut analisis kernel diskriminan yang
diorganisasikan ke dalam multi layered feedforward network dengan empat layer
yaitu:

Layer input
Layer pola
Layer jumlahan
Layer output

Jika fungsi rapat probabilitas (pdf) dari setiap populasi diketahui, maka x (tidak
dikatahui) termasuk kelas i jika
f i ( x) f j ( x)

, semua j i

adalah PDF untuk kelas k

Estimasi pdf dengan menggunakan sampel dari populasi (set training)

PDF untuk singel sampel (di dalam populasi yang diketahui)
1 x xk
W

dengan
x
xk
W

= input yang tidak diketahui

= sampel ke-k
= fungsi bobot
= parameter smoothing

PDF untuk singel populasi

1
n

x xk

W
k 1

rata-rata PDF dari n sampel dalam populasi

Fungsi Bobot

Nilai bobot bernilai besar untuk jarak yang dekat antara titik training dengan titik
yang tidak diketahui

Nilai bobot menurun dengan cepat menuju nol sebanding dengan peningkatan
jarak
Fungsi bobot untuk PNN secara umum menggunakan fungsi gaussian. Fungsi
gaussian digunakan karena berkelakuan baik dan mudah untuk dikomputasi.
Penggunaan fungsi gauss ini tidak berhubungan dengan distribusi normal.
PDF estimasi menjadi

1
g ( x)
n

( x xk ) 2

k 1

Input untuk network adalah sebuah vektor

PDF untuk singel sampel (dalam populasi yang diketahui)
ni

1
(2 ) p / 2 p ni
x

= input yang tidak diketahui

xk

= sampel ke-k

= parameter smoothing

= panjang vektor

x xik
2

k 1

PDF untuk singel populasi

g i ( x)

1
(2 ) p / 2 p ni

ni

x xik
2

k 1

(rata-rata PDF dari ni sampel dalam

populasi ke-i)
Kriteria klasifikasi
g i ( x) g j ( x)

1
g i ( x)
ni

semua j i
ni

e
k 1

x xik
2

Training Set
Training set harus sepenuhnya mewakili populasi sebenarnya untuk klasifikasi
yang efektif
Penambahan dan pengurangan sampel training berarti menambah dan mengurangi
saraf pada layer pola
Ketika training set jumlahnya meningkat, PNN secara asimptotik konvergen
menuju Bayes optimal classifier
PDF estimasi mendekati nilai PDF sebenarnya, dengan menganggap PDF
sebenarnya adalah smooth
Proses training pada PNN adalah proses untuk menentukan nilai parameter
smoothing, sigma