اخلاق ماشین و سیستمهای خودمختار
اخلاق ماشین این پرسش را مطرح میکند که آیا و چگونه سیستمهای مصنوعی میتوانند اخلاقی عمل کنند، و چگونه مسئولیت اقدامات ماشینهای خودمختار مانند خودروهای خودران و تسلیحات خودمختار باید تعیین شود.
Definition
مطالعه عاملیت اخلاقی و مسئولیت در سیستمهای خودمختار مصنوعی، شامل تلاشها برای ساخت ماشینهایی با قابلیت تصمیمگیری اخلاقی.
Scope
این موضوع به چشمانداز طراحی «عوامل اخلاقی مصنوعی»، تمایز بین سیستمهایی که از قوانین اخلاقی پیروی میکنند و آنهایی که عاملیت اخلاقی کاملتری دارند، «شکاف مسئولیت» که میتواند هنگام عملکرد غیرقابل پیشبینی سیستمهای یادگیرنده ایجاد شود، و موارد کاربردی مانند وسایل نقلیه خودمختار و تسلیحات خودمختار کشنده میپردازد. این موضوع مواضع فلسفی و استدلالهای پشت آنها را بررسی میکند و به جای تجویز نحوه ساخت یا استقرار چنین سیستمهایی، به توصیف بحث میپردازد.
Core questions
- آیا یک ماشین میتواند یک عامل اخلاقی باشد، یا فقط ابزاری است که کاربرانش مسئول هستند؟
- استدلال اخلاقی، در صورت لزوم، چگونه باید در سیستمهای خودمختار پیادهسازی شود؟
- هنگامی که یک سیستم خودمختار آسیبی ایجاد میکند که هیچ کس به طور خاص قصد آن را نداشته است، چه کسی مسئول است؟
- آیا اقداماتی مانند استفاده از نیروی کشنده وجود دارد که هرگز نباید به ماشینها واگذار شود؟
Key theories
- عوامل اخلاقی مصنوعی
- والاک و آلن درجات ظرفیت اخلاقی ماشین را متمایز میکنند—از اخلاق «عملیاتی» تا «کارکردی»—و رویکردهای بالا به پایین (مبتنی بر قانون) و پایین به بالا (مبتنی بر یادگیری) را برای ساخت سیستمهایی که اخلاقی عمل میکنند، بررسی میکنند.
- شکاف مسئولیت
- آندریاس ماتیاس استدلال میکند که با یادگیری و عمل ماشینها به روشهایی که سازندگانشان نمیتوانند به طور کامل پیشبینی یا کنترل کنند، انتسابهای سنتی مسئولیت ممکن است به هیچ کس اعمال نشود و شکافی ایجاد کند.
History
اخلاق ماشین در دهه ۲۰۰۰ شکل گرفت، با کتاب «ماشینهای اخلاقی» (۲۰۰۹) والاک و آلن که یک ترکیب کلیدی را ارائه داد. «شکاف مسئولیت» ماتیاس در سال ۲۰۰۴ و تحلیل اسپارو در سال ۲۰۰۷ از تسلیحات خودمختار، بحثهای پایداری را شکل دادند که با پیشرفتها در رباتیک و وسایل نقلیه خودمختار شدت گرفتند.
Debates
- مسئولیت تسلیحات خودمختار
- اسپارو استدلال میکند که هیچ کس نمیتواند به درستی مسئول تصمیمات کشتار تسلیحات کاملاً خودمختار باشد، که او این را دلیلی علیه استقرار آنها میداند؛ دیگران در مورد اینکه آیا شکاف مسئولیت واقعی یا غیرقابل پر کردن است، اختلاف نظر دارند.
Key figures
- Wendell Wallach
- Colin Allen
- Andreas Matthias
- Robert Sparrow
Related topics
Seminal works
- wallach2009
- matthias2004
Frequently asked questions
- آیا ماشینها واقعاً میتوانند عوامل اخلاقی باشند؟
- این مورد بحث است. برخی استدلال میکنند که ماشینها حداکثر میتوانند از قوانین اخلاقی پیروی کنند («اخلاق کارکردی») بدون عاملیت یا پاسخگویی واقعی، در حالی که دیگران به معانی قویتر میپردازند؛ این بحث به این بستگی دارد که عاملیت اخلاقی چه چیزی را ایجاب میکند.
- «شکاف مسئولیت» چیست؟
- این نگرانی است که وقتی سیستمهای یادگیرنده خودمختار به روشهایی عمل میکنند که هیچ کس نمیتوانست پیشبینی یا کنترل کند، نه طراحان، نه اپراتورها و نه خود ماشین را نمیتوان به طور منصفانه مسئول آسیبهای ناشی از آن دانست.