Evolutionary Strategy (CMA-ES) — Covariance Matrix Adaptation

CMA-ES, forkortelse for Covariance Matrix Adaptation Evolution Strategy, er en moderne, afledningsfri optimeringsmetode til kontinuerlige black-box funktioner, introduceret af Hansen og Ostermeier i 2001. Den vedligeholder en population af kandidatløsninger trukket fra en multivariat normalfordeling og opdaterer iterativt fordelingens middelværdi, skridtlængde og fulde kovariansmatrix for at styre søgningen mod bedre regioner af parameterummet. Den er blevet de facto-standarden for kontinuerlig black-box optimering og anvendes bredt inden for neural arkitektursøgning og optimering af politikker i forstærkningslæring.