गिब्स सैंपलिंग कब एक अच्छा विकल्प है?

गिब्स सैंपलिंग संयुग्मित या अन्यथा मानक पूर्ण सशर्तों वाले मॉडलों के लिए उपयुक्त है, जैसे कि कई पदानुक्रमित और अव्यक्त-चर मॉडल, लेकिन जब पैरामीटर दृढ़ता से सहसंबद्ध होते हैं तो यह धीरे-धीरे मिश्रित हो सकता है।

गिब्स सैंपलिंग

गिब्स सैंपलिंग एक पश्च वितरण (posterior) का अन्वेषण करती है, जिसमें प्रत्येक पैरामीटर को अन्य सभी दिए गए उसके पूर्ण सशर्त वितरण (full conditional distribution) से अद्यतन किया जाता है।

PaperMind से विषय खोजेंजल्द हीFind papers & topics

Tools & resources

स्लाइड डाउनलोड करें

Learn & explore

वीडियोजल्द ही

Definition

गिब्स सैंपलिंग एक MCMC विधि है जो पैरामीटर वेक्टर के घटकों के माध्यम से चक्रित होती है, प्रत्येक को अन्य सभी घटकों के वर्तमान मानों को देखते हुए उसके सशर्त पश्च वितरण (conditional posterior distribution) से खींचती है, जिससे एक श्रृंखला उत्पन्न होती है जिसका स्थिर वितरण (stationary distribution) संयुक्त पश्च वितरण (joint posterior) होता है।

Scope

यह विषय पूर्ण-सशर्त अद्यतनों को शामिल करता है जो गिब्स सैंपलर को परिभाषित करते हैं, स्वीकृति संभाव्यता एक के साथ मेट्रोपोलिस-हेस्टिंग्स (Metropolis-Hastings) के एक विशेष मामले के रूप में इसकी स्थिति, सुगम सशर्तों (tractable conditionals) को बनाने के लिए डेटा संवर्धन (data augmentation) का उपयोग, और मिश्रण (mixing) में सुधार करने वाली अवरोधन (blocking) और संकुचन (collapsing) रणनीतियाँ।

Core questions

पूर्ण सशर्त वितरण क्या हैं और गिब्स सैंपलिंग में उनका उपयोग कैसे किया जाता है?
गिब्स सैंपलिंग मेट्रोपोलिस-हेस्टिंग्स का एक विशेष मामला क्यों है?
डेटा संवर्धन सुगम सशर्तों का निर्माण कैसे करता है?
अवरोधन और संकुचन सैंपलर की दक्षता में कैसे सुधार करते हैं?

Key concepts

पूर्ण सशर्त वितरण
डेटा संवर्धन
अवरोधन
संकुचन
अव्यक्त चर
घटक-वार अद्यतन

Key theories

पूर्ण-सशर्त अद्यतन: प्रत्येक पैरामीटर को उसके पूर्ण सशर्त से नमूना लेने से संयुक्त पश्च वितरण अपरिवर्तित रहता है; जब सशर्त संयुग्मित होते हैं तो अद्यतन बंद-रूप (closed-form) होते हैं और स्वीकृति स्वचालित होती है।
डेटा संवर्धन: अव्यक्त चर (latent variables) को प्रस्तुत करने से अन्यथा असाध्य सशर्त मानक बन सकते हैं, जिससे मिश्रण और प्रोबिट मॉडल जैसी कठिन समस्याओं को सीधे गिब्स अद्यतनों में बदला जा सकता है।

Clinical relevance

गिब्स सैंपलिंग ने पदानुक्रमित (hierarchical) और अव्यक्त-चर (latent-variable) मॉडल को नियमित बना दिया, और यह बायोस्टैटिस्टिक्स और सामाजिक विज्ञानों में अनुप्रयुक्त बायेसियन मॉडलिंग के लिए BUGS और JAGS जैसे व्यापक रूप से उपयोग किए जाने वाले सॉफ्टवेयर का आधार है।

History

गेमन और गेमन (Geman and Geman) ने 1984 में छवि पुनर्स्थापन (image restoration) के लिए गिब्स सैंपलर की शुरुआत की, जिसका नाम सांख्यिकीय भौतिकी में गिब्स वितरण (Gibbs distributions) के नाम पर रखा। गेल्फैंड और स्मिथ (Gelfand and Smith) के 1990 के पेपर ने बायेसियन अनुमान (Bayesian inference) के लिए इसकी व्यापक प्रयोज्यता को दर्शाया, जिससे इसे व्यापक रूप से अपनाया गया।

Debates

मजबूत निर्भरता के तहत धीमा मिश्रण: घटक-वार गिब्स अद्यतन खराब रूप से मिश्रित हो सकते हैं जब पैरामीटर अत्यधिक सहसंबद्ध होते हैं, जो पुनर्मूल्यांकन (reparameterization), अवरोधन, या ढाल-आधारित विकल्पों को प्रेरित करता है।

Key figures

Stuart Geman
Donald Geman
Alan Gelfand
Adrian Smith

Seminal works

geman1984
gelfand1990

Frequently asked questions

गिब्स सैंपलिंग कब एक अच्छा विकल्प है?: गिब्स सैंपलिंग संयुग्मित या अन्यथा मानक पूर्ण सशर्तों वाले मॉडलों के लिए उपयुक्त है, जैसे कि कई पदानुक्रमित और अव्यक्त-चर मॉडल, लेकिन जब पैरामीटर दृढ़ता से सहसंबद्ध होते हैं तो यह धीरे-धीरे मिश्रित हो सकता है।