Optimización Bayesiana — Ajuste Secuencial Basado en Modelo de Hiperparámetros

La optimización bayesiana es una estrategia secuencial, basada en modelos, para encontrar el óptimo de funciones de caja negra costosas con la menor cantidad de evaluaciones posible. Arraigada en el trabajo de Mockus (1975) y llevada a la práctica general del aprendizaje automático por Snoek, Larochelle y Adams (2012), ajusta un modelo sustituto probabilístico —típicamente un Proceso Gaussiano— a observaciones pasadas y utiliza una función de adquisición para decidir dónde sondear a continuación, equilibrando la exploración de regiones desconocidas con la explotación de las prometedoras.