確率的最適化

確率的最適化は、勾配または値のノイズの多い推定値を使用して目的関数を最小化する手法であり、完全で正確な目的関数ではなく、データのランダムなサブセットまたはランダムな摂動からパラメータを更新します。

Definition

確率的最適化は、目的関数またはその勾配のランダムで不偏な推定値を使用してパラメータ推定値を更新する反復法のファミリーであり、目的関数を評価するコストが高すぎる場合や、ノイズを伴ってのみ観測される場合に最適化を可能にします。

Scope

このトピックでは、Robbins-Monroの伝統における確率的近似、確率的勾配降下法とそのミニバッチおよびモーメンタムのバリアント、収束を制御するステップサイズ（学習率）スケジュール、ノイズと計算コストのトレードオフ、および収束保証について扱います。大規模な統計モデルおよび機械学習モデルの適合におけるその役割が強調されています。

Core questions

• ノイズのある勾配推定値はどのようにして最適値への収束を促進するのでしょうか？
• Robbins-Monroの枠組みにおいて、どのようなステップサイズスケジュールが収束を保証するのでしょうか？
• ミニバッチ処理は、ステップごとの計算コストとノイズをどのようにトレードオフするのでしょうか？
• 非常に大規模なデータセットにとって、確率的最適化が不可欠であるのはなぜでしょうか？

Key concepts

• 確率的近似
• ミニバッチ勾配
• 学習率スケジュール
• 不偏勾配推定値
• ステップサイズ減衰
• 概収束

Key theories

確率的近似

Robbins-Monroスキームは、ノイズのある測定値から未知の関数の根を見つけるために、所定の速度で減少する小さなステップを踏むことで、ステップサイズ系列の条件の下で概収束します。

確率的勾配法

完全な勾配をランダムなデータサブセットからの不偏推定値に置き換えることで、安価な更新が可能になり、その平均軌道は目的関数を降下させます。学習率スケジュールは、収束速度とノイズの分散のバランスを取ります。

Clinical relevance

確率的勾配法は、一度に処理するには大きすぎるデータセットにモデルを適合させることを可能にし、ニューラルネットワークや大規模回帰のトレーニングにおける主要な最適化戦略です。これらの場合、各ステップで完全な勾配を計算することは現実的ではありません。

History

RobbinsとMonroは1951年にノイズのある観測値から根を見つけるために確率的近似を導入し、KieferとWolfowitzはすぐにそれを最適化に適用しました。大規模機械学習の爆発的な普及により、これらのアイデアは確率的勾配降下法とその多くの現代的なバリアントとして再評価されました。

Key figures

• Herbert Robbins
• Sutton Monro
• Harold Kushner
• Jack Kiefer

Seminal works

• robbins1951
• kushner2003

Frequently asked questions

なぜ正確な勾配ではなく、ノイズのある勾配を使用するのですか？

数百万のデータポイントにわたって正確な勾配を計算することはコストがかかります。小さなランダムバッチから推定された勾配ははるかに安価であり、ノイズがあるものの、平均的には下り坂を指すため、多くの安価なノイズのあるステップは、少数の正確なステップよりも優れている場合があります。

ステップサイズは通常、時間とともに縮小するのはなぜですか？

ステップサイズを小さくすることで、反復が最適値に近づくにつれて勾配ノイズが減衰します。これは、Robbins-Monroの収束条件が要求するものです。ステップサイズが大きすぎると、推定値が解の周りを跳ね回ってしまいます。