Байєсівська оптимізація — послідовне модельно-орієнтоване налаштування гіперпараметрів

Байєсівська оптимізація — це послідовна, модельно-орієнтована стратегія для знаходження оптимуму дорогих функцій чорної скриньки з якомога меншою кількістю оцінок. Заснована на роботі Mockus (1975) та популяризована у сфері машинного навчання Snoek, Larochelle та Adams (2012), вона будує ймовірнісну сурогатну модель — зазвичай Гауссовий процес — на основі попередніх спостережень та використовує функцію набуття для визначення наступної точки дослідження, балансуючи між розвідкою (exploration) невідомих областей та експлуатацією (exploitation) перспективних.