Evolutionary Strategy (CMA-ES) — Covariance Matrix Adaptation

CMA-ES ซึ่งย่อมาจาก Covariance Matrix Adaptation Evolution Strategy เป็นตัวปรับปรุงประสิทธิภาพแบบไม่มีอนุพันธ์ (derivative-free optimizer) สำหรับฟังก์ชันกล่องดำแบบต่อเนื่อง (continuous black-box functions) ที่พัฒนาขึ้นโดย Hansen และ Ostermeier ในปี 2001 โดยจะรักษาประชากรของคำตอบที่เป็นไปได้ซึ่งสุ่มมาจาก การแจกแจงแบบปกติหลายตัวแปร (multivariate normal distribution) และปรับปรุงค่าเฉลี่ย ขนาดก้าว (step size) และเมทริกซ์ความแปรปรวนร่วม (covariance matrix) ทั้งหมดอย่างต่อเนื่อง เพื่อนำทางการค้นหาไปยังบริเวณที่ดีขึ้นของปริภูมิพารามิเตอร์ (parameter space) ปัจจุบัน CMA-ES ได้กลายเป็นมาตรฐานโดยพฤตินัย (de-facto standard) สำหรับการปรับปรุงประสิทธิภาพฟังก์ชันกล่องดำแบบต่อเนื่อง และถูกนำไปใช้อย่างแพร่หลายในการค้นหาโครงสร้างสถาปัตยกรรมประสาท (neural architecture search) และการปรับปรุงประสิทธิภาพนโยบายการเรียนรู้แบบเสริมกำลัง (reinforcement-learning policy optimization)