أخلاقيات الآلة والأنظمة المستقلة
تتساءل أخلاقيات الآلة عما إذا كانت الأنظمة الاصطناعية تستطيع التصرف أخلاقيًا وكيف، وكيف ينبغي تحديد المسؤولية عن أفعال الآلات المستقلة مثل السيارات ذاتية القيادة والأسلحة المستقلة.
Definition
دراسة الفاعلية الأخلاقية والمسؤولية في الأنظمة الاصطناعية المستقلة، بما في ذلك الجهود المبذولة لبناء آلات قادرة على اتخاذ قرارات أخلاقية.
Scope
يغطي هذا الموضوع إمكانية تصميم 'وكلاء أخلاقيين اصطناعيين'، والتمييز بين الأنظمة التي تتبع القواعد الأخلاقية وتلك التي تتمتع بفاعلية أخلاقية كاملة، و'فجوة المسؤولية' التي قد تنشأ عندما تتصرف أنظمة التعلم بشكل غير متوقع، والحالات التطبيقية مثل المركبات المستقلة والأسلحة الفتاكة المستقلة. يستعرض هذا الموضوع المواقف الفلسفية والمنطق الكامن وراءها، واصفًا النقاش بدلاً من وصف كيفية بناء أو نشر هذه الأنظمة.
Core questions
- هل يمكن أن تكون الآلة وكيلًا أخلاقيًا، أم مجرد أداة يكون مستخدموها مسؤولين عنها؟
- كيف ينبغي، إن أمكن، تطبيق التفكير الأخلاقي في الأنظمة المستقلة؟
- من المسؤول عندما يتسبب نظام مستقل في ضرر لم يقصده أحد على وجه التحديد؟
- هل هناك أفعال، مثل القوة المميتة، لا ينبغي تفويضها للآلات أبدًا؟
Key theories
- الوكلاء الأخلاقيون الاصطناعيون
- يميز والاش وألين درجات القدرة الأخلاقية للآلة—من الأخلاق 'التشغيلية' إلى الأخلاق 'الوظيفية'—ويفحصان المناهج التنازلية (القائمة على القواعد) والتصاعدية (القائمة على التعلم) لبناء أنظمة تتصرف أخلاقيًا.
- فجوة المسؤولية
- يجادل أندرياس ماتياس بأنه مع تعلم الآلات وتصرفها بطرق لا يستطيع صانعوها التنبؤ بها أو التحكم فيها بشكل كامل، قد تفشل الإسنادات التقليدية للمسؤولية في الانطباق على أي شخص، مما يخلق فجوة.
History
تجسدت أخلاقيات الآلة في العقد الأول من القرن الحادي والعشرين، حيث قدم كتاب والاش وألين 'الآلات الأخلاقية' (2009) توليفة رئيسية. وقد أطرت 'فجوة المسؤولية' لماتياس عام 2004 وتحليل سبارو عام 2007 للأسلحة المستقلة نقاشات دائمة تكثفت مع التقدم في الروبوتات والمركبات المستقلة.
Debates
- المسؤولية عن الأسلحة المستقلة
- يجادل سبارو بأنه لا يمكن تحميل أي شخص مسؤولية عادلة عن قرارات القتل التي تتخذها الأسلحة المستقلة تمامًا، وهو ما يعتبره سببًا لعدم نشرها؛ بينما يعترض آخرون على ما إذا كانت فجوة المسؤولية حقيقية أو لا يمكن سدها.
Key figures
- Wendell Wallach
- Colin Allen
- Andreas Matthias
- Robert Sparrow
Related topics
Seminal works
- wallach2009
- matthias2004
Frequently asked questions
- هل يمكن للآلات أن تكون وكلاء أخلاقيين حقًا؟
- هذا أمر متنازع عليه. يجادل البعض بأن الآلات يمكنها على الأكثر اتباع القواعد الأخلاقية ('الأخلاق الوظيفية') دون فاعلية حقيقية أو مساءلة، بينما يستكشف آخرون معاني أقوى؛ يدور النقاش حول ما تتطلبه الفاعلية الأخلاقية.
- ما هي 'فجوة المسؤولية'؟
- إنه القلق من أنه عندما تتصرف أنظمة التعلم المستقلة بطرق لا يمكن لأحد التنبؤ بها أو التحكم فيها، لا يمكن تحميل المصممين أو المشغلين أو الآلة مسؤولية عادلة عن الأضرار الناتجة.