Machine learning
확률적 경사 하강법(Stochastic Gradient Descent, SGD)
확률적 경사 하강법(SGD)은 1951년 Robbins와 Monro가 도입한 확률적 근사 프레임워크에 뿌리를 둔 1차 반복 최적화 알고리즘으로, 각 단계에서 무작위로 선택된 단일 훈련 예제(또는 작은 미니 배치)에서 계산된 기울기를 사용하여 모델 매개변수를 업데이트함으로써 목적 함수를 최소화합니다. 이는 현대 머신러닝 및 딥러닝의 핵심 최적화 엔진으로, 메모리에 모두 담기에는 너무 큰 데이터셋에서 모델을 훈련할 수 있게 합니다.
방법 전문 읽기
회원 전용
로그인무료 계정으로 로그인하면 이 섹션을 읽을 수 있습니다.
Method map
The neighbourhood of related methods — select a node to explore.
출처
- Robbins, H. & Monro, S. (1951). A Stochastic Approximation Method. The Annals of Mathematical Statistics, 22(3), 400–407. DOI: 10.1214/aoms/1177729586 ↗
- Goodfellow, I., Bengio, Y. & Courville, A. (2016). Deep Learning (Ch. 8). MIT Press. ISBN: 978-0-262-03561-3
이 페이지 인용 방법
ScholarGate. (2026, June 3). Stochastic Gradient Descent (SGD) Optimization Algorithm. ScholarGate. https://scholargate.app/ko/machine-learning/stochastic-gradient-descent
Which method?
Set this method beside its closest kin and read them side by side — the library lays the books on the table; the choice is yours.
Compare side by side →