Batas Generalisasi

Batas generalisasi memberikan jaminan probabilistik tentang seberapa jauh kesalahan sebenarnya dari suatu model dapat melebihi kesalahan pelatihannya, dalam hal ukuran sampel dan kapasitas model.

Definition

Batas generalisasi adalah suatu ketidaksamaan yang menyatakan bahwa, dengan probabilitas tinggi pada sampel pelatihan acak, kesalahan sebenarnya dari model yang dipelajari paling banyak adalah kesalahan pelatihannya ditambah suatu suku yang meningkat seiring dengan kapasitas model dan menurun seiring dengan ukuran sampel, yang mengesahkan seberapa besar model dapat dipercaya pada data yang belum terlihat.

Scope

Topik ini mencakup batas teoretis pada generalisasi: batas konvergensi seragam berdasarkan dimensi Vapnik-Chervonenkis, ukuran kompleksitas seperti kompleksitas Rademacher, batas berbasis margin, dan gagasan kompleksitas sampel yang mungkin mendekati akurat (probably approximately correct). Ini membahas bagaimana batas-batas ini bergantung pada ukuran data dan kapasitas serta mengapa batas-batas ini cenderung longgar dalam praktiknya.

Core questions

• Bagaimana kesalahan sebenarnya dibatasi dalam hal kesalahan pelatihan dan kapasitas?
• Bagaimana batas meningkat seiring dengan bertambahnya sampel?
• Ukuran kompleksitas apa yang muncul dalam batas modern?
• Mengapa batas generalisasi seringkali longgar untuk model nyata?

Key theories

Batas konvergensi seragam

Batas berdasarkan dimensi Vapnik-Chervonenkis menjamin bahwa, dengan probabilitas tinggi, kesalahan pelatihan mendekati kesalahan sebenarnya secara seragam di seluruh kelas model, dengan celah menyusut seiring dengan akar kuadrat ukuran sampel dibagi kapasitas.

Batas berbasis margin dan kompleksitas

Penyempurnaan menggunakan margin klasifikasi atau kompleksitas Rademacher memberikan batas yang lebih ketat, bergantung pada data, yang lebih baik menjelaskan keberhasilan pengklasifikasi margin besar.

Kompleksitas sampel

Batas diterjemahkan menjadi kompleksitas sampel, jumlah contoh yang dibutuhkan untuk belajar hingga akurasi dan kepercayaan target, membuat persyaratan data pembelajaran menjadi eksplisit.

Clinical relevance

Batas generalisasi memberikan jaminan formal di balik janji utama pembelajaran mesin, bahwa penyesuaian data mengarah pada prediksi pada data baru, dan batas-batas ini memotivasi regularisasi dan kontrol kapasitas; meskipun biasanya terlalu longgar untuk memprediksi kesalahan yang tepat, batas-batas ini menangkap ketergantungan kualitatif pada ukuran dan kompleksitas data yang memandu praktik.

History

Batas umum pertama berasal dari hasil konvergensi seragam Vapnik dan Chervonenkis, yang kemudian dipertajam oleh analisis berbasis margin dan kompleksitas Rademacher. Kerangka kerja yang mungkin mendekati akurat (probably approximately correct) merumuskan kembali ini sebagai pernyataan kompleksitas sampel, dan pekerjaan terbaru mencari batas-batas yang menjelaskan generalisasi model yang sangat terlalu terparametrisasi.

Key figures

• Vladimir Vapnik
• Alexey Chervonenkis
• Peter Bartlett

Seminal works

• vapnik1971
• vapnik1995
• hastie2009

Frequently asked questions

Apa yang disampaikan oleh batas generalisasi?

Ini menyatakan bahwa, dengan probabilitas tinggi, kesalahan model pada data yang belum terlihat tidak akan melebihi kesalahan pelatihannya lebih dari suatu kuantitas yang bergantung pada seberapa kompleks kelas model dan seberapa banyak data yang digunakan. Lebih banyak data dan kapasitas yang lebih rendah memperketat jaminan.

Mengapa batas-batas ini seringkali terlalu longgar untuk digunakan secara langsung?

Batas klasik adalah kasus terburuk dan bebas distribusi, sehingga berlaku untuk distribusi data apa pun dan model apa pun dalam kelas tersebut. Generalitas ini membuatnya pesimistis, seringkali memprediksi celah kesalahan yang jauh lebih besar daripada yang terlihat dalam praktik, sehingga lebih banyak digunakan untuk wawasan daripada untuk angka yang tepat.