Otimização Bayesiana — Ajuste Sequencial de Hiperparâmetros Baseado em Modelo

Otimização Bayesiana é uma estratégia sequencial, baseada em modelo, para encontrar o ótimo de funções de caixa-preta caras com o menor número possível de avaliações. Fundamentada no trabalho de Mockus (1975) e trazida para a prática corrente de aprendizado de máquina por Snoek, Larochelle e Adams (2012), ela ajusta um modelo substituto probabilístico — tipicamente um Processo Gaussiano — a observações passadas e usa uma função de aquisição para decidir onde sondar a seguir, balanceando a exploração de regiões desconhecidas com a exploração de regiões promissoras.