Optimizare Bayesiană — Reglaj Secvențial Bazat pe Model al Hiperparametrilor

Optimizarea Bayesiană este o strategie secvențială, bazată pe model, pentru a găsi optimul funcțiilor costisitoare de tip cutie neagră cu cât mai puține evaluări posibile. Bazată pe lucrările lui Mockus (1975) și adusă în practica curentă a învățării automate de către Snoek, Larochelle și Adams (2012), ea ajustează un model surogat probabilistic — de obicei un Proces Gaussian — la observațiile anterioare și utilizează o funcție de achiziție pentru a decide unde să sondeze în continuare, echilibrând explorarea regiunilor necunoscute cu exploatarea celor promițătoare.