Tag Archives: SVM

Keuntungan Algoritma Training dengan Memaksimalkan Jumlah Pemisah

Pada makalah Boser 1992, kami menjelaskan sebuah algoritma training yang secara otomatis menyesuaikan kapasitas dari fungsi klasifikasi dengan memaksimalkan batas antara controh training dan batasan kelas, secara opsional setelah menghilangkan beberapa contoh yang tidak tipikal atau tidak bermakna dari data training. Fungsi klasifikasi yang dihasilkan hanya tergantung pada apa yang disebut pola penunjang. Pola penunjang adalah contoh training yang paling dekat dengan batasan keputusan dan biasanya merupakan himpunan bagian kecil dari data training.
Akan ditunjukkan bahwa dengan memaksimalkan jumlah batasan untuk meminimalkan kehilangan maksimum, sebagai lawan dari beberapa kuantitas rata-rata seperti kesalahan kuadrat rata-rata. Hal ini mempunya beberapa konsekuensi yang diinginkan. Aturan klasifikasi yang dihasilkan mencapai sebuah pemisahan data training yang tanpa error jika dimungkinkan. Pencilan atau pola yang tanpa makna dikenali oleh algoritma dan oleh karena itu bisa dihilangkan dengan mudah dengan atau tanpa supervisi. Hal ini berkebalikan dengan classifier yang berbasis pada minimasi error kuadrat rata-rata, yang mana secara tenang membiarkan pola yang tidak tipikal. Keuntungan lainnya dari pemisah batas maksimum adalah sensitivitas dari pemisah pada akurasi komputasi terbatas yang minimal dibandingkan dengan pemisahan lainnya dengan batas terkecil. Sebagai perbandingan dengan yang lain, sebuah batas pada unjuk kerja generalisasi diperoleh dengan metode leave-one-out. Untuk pemisah batas maksimum (maximum margin classifier), rasio bilangan yang secara pola penunjang yang linear independen terhadap jumlah contoh training. Batasan ini lebih ketat daripada sebuah batasan yang berdasarkan pada kapasitas keluarga pemisah.

Gambar 1

Sebuah Algoritma Training untuk Pengklasifikasi Margin Optimal

Boser, Bernhard E., Isabelle M. Guyon, and Vladimir N. Vapnik.

Sebuah algoritma  training yang memaksimalkan batas antara pola training dan batasan keputusan disajikan. Teknik tersebut bisa diterapkan pada sejumlah luas fungsi klasifikasi, termasuk perseptron, polinomial, dan fungsi basis radial. Jumlah parameter efektif disesuaikan secara otomatis agar cocok dengan kompleksitas permasalahan. Solusi disajikan sebagai sebuah kombinasi linear dari pola penunjang. Pola tersebut merupakan himpunan bagian dari pola latihan yang paling dekat dengan batasan keputusan.

Gambar 1

Gambar 1

Continue reading

Gambar 1

Pembelajaran Bayesian Renggang dan Relevance Vector Machine

Karya ini memperkenalkan sebuah framework Bayesian umum untuk memperoleh solusi renggang untuk tugas regresi dan klasifikasi yang menggunakan linear model dalam parameter. Walaupun framework ini sepenuhnya umum, kami menggambarkan pendekatan kita dengan sebuah spesialisasi yang kami nyatakan dengan ‘relevance vector machine’(RVM), sebuah model dari bentuk fungsional identik pada SVM yang populer terkini.

Gambar 1

Gambar 1

Kami mendemonstrasikan bahwa dengan menggunakan framework pembelajaran probabilistik Bayesian, kami bisa menurunkan model prediksi akurat yang manan secara khusus menggunakan lebih sedikit fungsi basis secara dramatis dari pada sebuah SVM yang bisa dibandingkan sambil menawarkan sejumlah sejumlah keuntungan tambahan. Hal ini termasuk keuntungan prediksi probabilistik, estimasi otomatis dari parameter ‘nuisance’ , dan fasilitas untuk menggnakan fungsi basis sembarang (misal kernel non-‘Mercer’).

Continue reading