प्रौद्योगिकी और एआई की नैतिकता

प्रौद्योगिकी और एआई की नैतिकता तकनीकी कलाकृतियों और प्रणालियों द्वारा उठाए गए नैतिक प्रश्नों का अध्ययन करती है, जिसमें कृत्रिम बुद्धिमत्ता, स्वचालन और डेटा-संचालित निर्णय लेने पर विशेष ध्यान दिया जाता है।

Definition

अनुप्रयुक्त नैतिकता की वह शाखा जो प्रौद्योगिकी, विशेषकर कंप्यूटिंग, कृत्रिम बुद्धिमत्ता और स्वचालित प्रणालियों के नैतिक निहितार्थों से संबंधित है।

Scope

यह क्षेत्र तकनीकी डिजाइन में अंतर्निहित मूल्यों, कृत्रिम बुद्धिमत्ता और स्वायत्त प्रणालियों की नैतिकता, एल्गोरिथम निष्पक्षता, गोपनीयता और निगरानी, स्वचालित निर्णयों के लिए जवाबदेही, और इस व्यापक प्रश्न को शामिल करता है कि क्या प्रौद्योगिकियां तटस्थ उपकरण हैं या राजनीतिक और नैतिक महत्व रखती हैं। इसमें प्रस्तावित एआई-नैतिकता सिद्धांत और ढाँचे शामिल हैं। एक संदर्भ विषय के रूप में, यह डिजाइन या नीतिगत नुस्खे पेश करने के बजाय इन मुद्दों और बहसों का वर्णन करता है।

Sub-topics

• एल्गोरिथम संबंधी निष्पक्षता और पूर्वाग्रह
• मशीन नैतिकता और स्वायत्त प्रणालियाँ
• गोपनीयता और निगरानी नैतिकता

Core questions

• क्या प्रौद्योगिकियां नैतिक रूप से तटस्थ उपकरण हैं, या वे मूल्यों और राजनीति को समाहित करती हैं?
• जब कोई स्वचालित या एआई प्रणाली नुकसान पहुँचाती है तो कौन जिम्मेदार होता है?
• एल्गोरिथम निर्णयों पर निष्पक्षता, पारदर्शिता और जवाबदेही कैसे लागू होनी चाहिए?
• एआई के विकास और तैनाती को किन सिद्धांतों, यदि कोई हो, द्वारा नियंत्रित किया जाना चाहिए?

Key theories

कलाकृतियों की राजनीति होती है

लैंगडन विनर का शोध प्रबंध कि तकनीकी कलाकृतियाँ शक्ति और अधिकार के विशिष्ट रूपों को समाहित कर सकती हैं, इसलिए प्रौद्योगिकियां मूल्य-तटस्थ नहीं होती हैं बल्कि सामाजिक और राजनीतिक व्यवस्थाओं को स्थापित कर सकती हैं।

सिद्धांत-आधारित एआई नैतिकता ढाँचे

फ्लोरिडी और काउल्स व्यापक रूप से प्रस्तावित एआई सिद्धांतों को परोपकारिता, गैर-हानिकारकता, स्वायत्तता, न्याय और व्याख्यात्मकता में संश्लेषित करते हैं, जो जैव-नैतिकता परंपरा पर आधारित और उसका विस्तार करते हैं।

History

कंप्यूटर नैतिकता 1980 के दशक से विकसित हुई, और प्रौद्योगिकी का व्यापक दर्शन विनर जैसे व्यक्तियों के काम से आया। 2010 के दशक में मशीन लर्निंग की तीव्र तैनाती ने एआई-नैतिकता छात्रवृत्ति में एक विस्फोट और जोबिन और सहयोगियों द्वारा सर्वेक्षण किए गए सिद्धांत-आधारित दिशानिर्देशों के प्रसार को प्रेरित किया।

Debates

क्या उच्च-स्तरीय सिद्धांत पर्याप्त हैं

व्यापक एआई सिद्धांतों पर अभिसरण व्यापक है, लेकिन विद्वान इस बात पर बहस करते हैं कि क्या ऐसे सिद्धांतों को क्रियान्वित किया जा सकता है या क्या वे प्रवर्तन और ठोस अभ्यास के बिना 'नैतिकता धोने' का जोखिम उठाते हैं।

Key figures

• Langdon Winner
• Luciano Floridi
• Helen Nissenbaum
• Shannon Vallor

Seminal works

• winner1980
• floridi2019
• jobin2019

Frequently asked questions

क्या एआई नैतिकता एक नया क्षेत्र है?

इसकी चिंताएँ कंप्यूटर नैतिकता और प्रौद्योगिकी के दर्शन की पुरानी परंपराओं पर आधारित हैं, लेकिन यह शब्द और समकालीन साहित्य का अधिकांश भाग 2010 के दशक में मशीन लर्निंग में प्रगति के साथ प्रमुखता में आया।

क्या प्रौद्योगिकी नैतिकता यह मानती है कि प्रौद्योगिकी खराब है?

नहीं। यह प्रौद्योगिकियों के लाभों और जोखिमों दोनों का अध्ययन करती है और पूछती है कि उन्हें कैसे डिजाइन और शासित किया जाना चाहिए; कई स्थितियाँ इस बात पर जोर देती हैं कि उपयोग और संदर्भ के आधार पर एक ही प्रौद्योगिकी के बहुत अलग नैतिक प्रभाव हो सकते हैं।