Evolutionary Strategy (CMA-ES) — Covariance Matrix Adaptation

CMA-ES（Covariance Matrix Adaptation Evolution Strategy）は、2001年にHansenとOstermeierによって導入された、連続的なブラックボックス関数向けの現代的な導関数フリー最適化手法である。これは、多変量正規分布からサンプリングされた候補解の集団を維持し、分布の平均、ステップサイズ、および完全な共分散行列を反復的に更新することで、パラメータ空間のより良い領域へと探索を誘導する。これは連続的なブラックボックス最適化の事実上の標準となり、ニューラルアーキテクチャ探索や強化学習における方策最適化に広く用いられている。