मशीन नैतिकता और स्वायत्त प्रणालियाँ

मशीन नैतिकता यह प्रश्न करती है कि क्या और कैसे कृत्रिम प्रणालियाँ नैतिक रूप से कार्य कर सकती हैं, और स्व-ड्राइविंग कारों तथा स्वायत्त हथियारों जैसी स्वायत्त मशीनों के कार्यों के लिए जिम्मेदारी कैसे निर्धारित की जानी चाहिए।

Definition

कृत्रिम स्वायत्त प्रणालियों में नैतिक एजेंसी और जिम्मेदारी का अध्ययन, जिसमें नैतिक निर्णय लेने में सक्षम मशीनों के निर्माण के प्रयास शामिल हैं।

Scope

यह विषय 'कृत्रिम नैतिक एजेंटों' को डिजाइन करने की संभावना, नैतिक नियमों का पालन करने वाली प्रणालियों और पूर्ण नैतिक एजेंसी वाली प्रणालियों के बीच अंतर, 'जिम्मेदारी का अंतर' जो सीखने वाली प्रणालियों के अप्रत्याशित रूप से कार्य करने पर उत्पन्न हो सकता है, और स्वायत्त वाहन तथा घातक स्वायत्त हथियार जैसे अनुप्रयुक्त मामलों को शामिल करता है। यह दार्शनिक स्थितियों और उनके पीछे के तर्क का सर्वेक्षण करता है, ऐसी प्रणालियों का निर्माण या तैनाती कैसे की जानी चाहिए, यह निर्धारित करने के बजाय बहस का वर्णन करता है।

Core questions

• क्या कोई मशीन एक नैतिक एजेंट हो सकती है, या केवल एक उपकरण जिसके उपयोगकर्ता जिम्मेदार हैं?
• स्वायत्त प्रणालियों में नैतिक तर्क को कैसे, यदि बिल्कुल भी, लागू किया जाना चाहिए?
• जब कोई स्वायत्त प्रणाली ऐसा नुकसान पहुँचाती है जिसका किसी ने विशेष रूप से इरादा नहीं किया था, तो कौन जिम्मेदार होता है?
• क्या ऐसे कार्य हैं, जैसे घातक बल, जिन्हें कभी भी मशीनों को नहीं सौंपना चाहिए?

Key theories

कृत्रिम नैतिक एजेंट

वॉलैक और एलन मशीन की नैतिक क्षमता की डिग्री को अलग करते हैं—'परिचालन' से लेकर 'कार्यात्मक' नैतिकता तक—और नैतिक रूप से कार्य करने वाली प्रणालियों के निर्माण के लिए टॉप-डाउन (नियम-आधारित) और बॉटम-अप (सीखने-आधारित) दृष्टिकोणों की जांच करते हैं।

जिम्मेदारी का अंतर

एंड्रियास मैथियास का तर्क है कि जैसे-जैसे मशीनें ऐसे तरीकों से सीखती और कार्य करती हैं जिन्हें उनके निर्माता पूरी तरह से भविष्यवाणी या नियंत्रित नहीं कर सकते, जिम्मेदारी के पारंपरिक आरोप किसी पर भी लागू होने में विफल हो सकते हैं, जिससे एक अंतर पैदा होता है।

History

मशीन नैतिकता ने 2000 के दशक में आकार लिया, जिसमें वॉलैक और एलन की मोरल मशीन्स (2009) ने एक महत्वपूर्ण संश्लेषण प्रदान किया। मैथियास का 2004 का 'जिम्मेदारी का अंतर' और स्पैरो का 2007 का स्वायत्त हथियारों का विश्लेषण उन स्थायी बहसों को आकार दिया जो रोबोटिक्स और स्वायत्त वाहनों में प्रगति के साथ तेज हो गईं।

Debates

स्वायत्त हथियारों के लिए जिम्मेदारी

स्पैरो का तर्क है कि पूरी तरह से स्वायत्त हथियारों के हत्या के निर्णयों के लिए किसी को भी न्यायोचित रूप से जिम्मेदार नहीं ठहराया जा सकता है, जिसे वह उन्हें तैनात न करने का एक कारण मानते हैं; अन्य इस बात पर विवाद करते हैं कि क्या जिम्मेदारी का अंतर वास्तविक है या इसे पाटा नहीं जा सकता है।

Key figures

• Wendell Wallach
• Colin Allen
• Andreas Matthias
• Robert Sparrow

Seminal works

• wallach2009
• matthias2004

Frequently asked questions

क्या मशीनें वास्तव में नैतिक एजेंट हो सकती हैं?

यह विवादास्पद है। कुछ का तर्क है कि मशीनें केवल नैतिक नियमों का पालन कर सकती हैं ('कार्यात्मक नैतिकता') बिना वास्तविक एजेंसी या जवाबदेही के, जबकि अन्य मजबूत अर्थों की पड़ताल करते हैं; बहस इस बात पर निर्भर करती है कि नैतिक एजेंसी के लिए क्या आवश्यक है।

जिम्मेदारी का अंतर क्या है?

यह चिंता है कि जब स्वायत्त सीखने वाली प्रणालियाँ ऐसे तरीकों से कार्य करती हैं जिनकी कोई भविष्यवाणी या नियंत्रण नहीं कर सकता था, तो न तो डिजाइनर, ऑपरेटर, न ही मशीन को परिणामी नुकसान के लिए उचित रूप से जिम्मेदार ठहराया जा सकता है।