Evolutionaire Strategie (CMA-ES) — Covariantiematrixaanpassing

CMA-ES, een acroniem voor Covariance Matrix Adaptation Evolution Strategy, is een moderne, afleidingsvrije optimizer voor continue black-box functies, geïntroduceerd door Hansen en Ostermeier in 2001. Het onderhoudt een populatie van kandidaatoplossingen getrokken uit een multivariate normale verdeling en werkt de gemiddelde waarde, stapgrootte en volledige covariantiematrix van de verdeling iteratief bij om de zoektocht naar betere regio's van de parameterruimte te sturen. Het is de de-facto standaard geworden voor continue black-box optimalisatie en wordt veelvuldig gebruikt bij neurale architectuurselectie en beleidsoptimalisatie in reinforcement learning.