Optimasi Bayesian — Penyetelan Hiperparameter Berbasis Model Sekuensial

Optimasi Bayesian adalah strategi sekuensial berbasis model untuk menemukan optimum dari fungsi kotak hitam yang mahal dengan evaluasi sesedikit mungkin. Berakar dari karya Mockus (1975) dan dibawa ke praktik pembelajaran mesin arus utama oleh Snoek, Larochelle, dan Adams (2012), metode ini menyesuaikan model pengganti probabilistik — biasanya Proses Gaussian — terhadap observasi masa lalu dan menggunakan fungsi akuisisi untuk memutuskan di mana akan melakukan probing selanjutnya, menyeimbangkan eksplorasi wilayah yang belum diketahui dengan eksploitasi wilayah yang menjanjikan.