Tối ưu hóa Bayes — Tinh chỉnh siêu tham số tuần tự dựa trên mô hình

Tối ưu hóa Bayes là một chiến lược tuần tự, dựa trên mô hình để tìm cực trị của các hàm hộp đen tốn kém với số lần đánh giá ít nhất có thể. Bắt nguồn từ công trình của Mockus (1975) và được đưa vào thực hành học máy phổ biến bởi Snoek, Larochelle và Adams (2012), nó khớp một mô hình thay thế xác suất — thường là Quá trình Gaussian — với các quan sát trước đó và sử dụng một hàm thu hút để quyết định nơi cần thăm dò tiếp theo, cân bằng giữa khám phá các vùng chưa biết và khai thác các vùng có triển vọng.