डीप जनरेटिव मॉडल
डीप जनरेटिव मॉडल प्रशिक्षण सेट के समान नया डेटा उत्पन्न करना सीखते हैं, जो छवियों, ऑडियो और टेक्स्ट जैसे जटिल डेटा के वितरण को कैप्चर करते हैं।
Definition
एक डीप जनरेटिव मॉडल एक तंत्रिका नेटवर्क है जो डेटा पर एक संभाव्यता वितरण का प्रतिनिधित्व करता है और इससे नए नमूने उत्पन्न कर सकता है, जिसे मॉडल परिवार के आधार पर, या तो अधिकतम संभावना (maximizing likelihood) द्वारा, एडवरसैरियल प्रशिक्षण द्वारा, या एक भ्रष्ट प्रक्रिया (corruption process) को उलटना सीखकर सीखा जाता है।
Scope
यह विषय उन तंत्रिका मॉडलों को शामिल करता है जो डेटा वितरण से मॉडल या नमूना लेते हैं: वेरिएशन ऑटोएन्कोडर जो एक एन्कोडर और डिकोडर को एक अव्यक्त पूर्व (latent prior) के साथ जोड़ते हैं, जनरेटिव एडवरसैरियल नेटवर्क जो एक जनरेटर को एक डिस्क्रिमिनेटर के खिलाफ खड़ा करते हैं, ऑटोरेग्रेसिव मॉडल जो एक समय में एक तत्व का डेटा अनुमान लगाते हैं, और डिफ्यूजन मॉडल जो एक नोइजिंग प्रक्रिया को उलटना सीखते हैं। यह बताता है कि इन मॉडलों को कैसे प्रशिक्षित और मूल्यांकन किया जाता है।
Core questions
- एक तंत्रिका नेटवर्क यथार्थवादी नया डेटा उत्पन्न करना कैसे सीख सकता है?
- संभावना-आधारित, एडवरसैरियल और डिफ्यूजन दृष्टिकोणों में क्या अंतर है?
- अव्यक्त चर (latent variables) का उपयोग जनरेशन को नियंत्रित और संरचित करने के लिए कैसे किया जाता है?
- उत्पन्न नमूनों की गुणवत्ता का आकलन कैसे किया जाता है?
Key theories
- अव्यक्त-चर जनरेशन
- वेरिएशन ऑटोएन्कोडर एक एन्कोडर सीखते हैं जो डेटा को एक अव्यक्त वितरण (latent distribution) में मैप करता है और एक डिकोडर जो डेटा का पुनर्निर्माण करता है, जिससे एक पूर्व (prior) से अव्यक्त कोड (latent codes) खींचकर नए डेटा का नमूना लेना संभव हो जाता है।
- एडवरसैरियल प्रशिक्षण
- जनरेटिव एडवरसैरियल नेटवर्क एक जनरेटर को एक डिस्क्रिमिनेटर को धोखा देने के लिए प्रशिक्षित करते हैं जो वास्तविक और उत्पन्न डेटा के बीच अंतर करने की कोशिश करता है, एक ऐसा खेल जिसका संतुलन यथार्थवादी नमूने उत्पन्न करता है।
- ऑटोरेग्रेसिव और डिफ्यूजन मॉडलिंग
- ऑटोरेग्रेसिव मॉडल एक वितरण को अनुक्रम में अनुमानित सशर्तों (conditionals) के एक उत्पाद में गुणनखंडित करते हैं, जबकि डिफ्यूजन मॉडल एक क्रमिक नोइजिंग प्रक्रिया को उलटना सीखते हैं, दोनों उच्च-गुणवत्ता वाली जनरेशन देते हैं।
Clinical relevance
डीप जनरेटिव मॉडल छवि और ऑडियो संश्लेषण, डेटा संवर्द्धन (data augmentation), दवा और सामग्री डिजाइन, और जनरेटिव आर्टिफिशियल इंटेलिजेंस सिस्टम को शक्ति प्रदान करते हैं जो टेक्स्ट और छवियां उत्पन्न करते हैं; विश्वसनीय सिंथेटिक सामग्री बनाने की उनकी क्षमता दुरुपयोग, प्रामाणिकता और मूल्यांकन के बारे में महत्वपूर्ण चिंताएं भी बढ़ाती है।
History
तंत्रिका नेटवर्क के साथ जनरेटिव मॉडलिंग प्रतिबंधित बोल्ट्जमैन मशीनों और डीप बिलीफ नेट से वेरिएशन ऑटोएन्कोडर और, 2014 में, जनरेटिव एडवरसैरियल नेटवर्क तक प्रगति की। ऑटोरेग्रेसिव मॉडल ने टेक्स्ट और ऑडियो जनरेशन को आगे बढ़ाया, और डिफ्यूजन मॉडल ने बाद में अग्रणी छवि-संश्लेषण गुणवत्ता हासिल की, जिससे जनरेटिव मॉडलिंग आधुनिक आर्टिफिशियल इंटेलिजेंस का एक केंद्रीय विषय बन गया।
Key figures
- Ian Goodfellow
- Diederik Kingma
- Yoshua Bengio
Related topics
Seminal works
- goodfellow2016
- lecun2015
- murphy2012
Frequently asked questions
- जनरेटिव एडवरसैरियल नेटवर्क क्या है?
- यह एक साथ प्रशिक्षित नेटवर्क की एक जोड़ी है: एक जनरेटर जो नमूने बनाता है और एक डिस्क्रिमिनेटर जो वास्तविक डेटा को उत्पन्न डेटा से अलग करने की कोशिश करता है। जनरेटर डिस्क्रिमिनेटर को धोखा देना सीखकर सुधार करता है, और आदर्श संतुलन पर यह यथार्थवादी नमूने उत्पन्न करता है।
- डिफ्यूजन मॉडल डेटा कैसे उत्पन्न करते हैं?
- डिफ्यूजन मॉडल एक ऐसी प्रक्रिया को उलटना सीखते हैं जो धीरे-धीरे डेटा में शोर जोड़ती है। शुद्ध शोर से शुरू होकर, मॉडल बार-बार थोड़ा शोर हटाता है, कदम दर कदम, जब तक एक साफ नमूना सामने नहीं आता, जो उच्च-गुणवत्ता वाली छवि जनरेशन के लिए बहुत प्रभावी साबित हुआ है।