จริยธรรมของเครื่องจักรและระบบอัตโนมัติ

จริยธรรมของเครื่องจักรตั้งคำถามว่าระบบปัญญาประดิษฐ์สามารถกระทำอย่างมีศีลธรรมได้หรือไม่และอย่างไร และควรกำหนดความรับผิดชอบต่อการกระทำของเครื่องจักรอัตโนมัติ เช่น รถยนต์ไร้คนขับและอาวุธปล่อยอัตโนมัติอย่างไร

Definition

การศึกษาความเป็นตัวแทนทางศีลธรรมและความรับผิดชอบในระบบอัตโนมัติเทียม รวมถึงความพยายามในการสร้างเครื่องจักรที่สามารถตัดสินใจทางศีลธรรมได้

Scope

หัวข้อนี้ครอบคลุมถึงแนวคิดในการออกแบบ 'ตัวแทนทางศีลธรรมเทียม' (artificial moral agents) ความแตกต่างระหว่างระบบที่ปฏิบัติตามกฎเกณฑ์ทางจริยธรรมกับระบบที่มีความเป็นตัวแทนทางศีลธรรมที่สมบูรณ์ยิ่งขึ้น 'ช่องว่างความรับผิดชอบ' (responsibility gap) ที่อาจเกิดขึ้นเมื่อระบบการเรียนรู้ทำงานโดยไม่สามารถคาดเดาได้ และกรณีประยุกต์ใช้ เช่น ยานพาหนะอัตโนมัติและอาวุธสังหารอัตโนมัติ หัวข้อนี้สำรวจแนวคิดทางปรัชญาและเหตุผลเบื้องหลัง โดยอธิบายถึงการถกเถียงมากกว่าการกำหนดว่าระบบดังกล่าวควรถูกสร้างหรือนำไปใช้งานอย่างไร

Core questions

• เครื่องจักรสามารถเป็นตัวแทนทางศีลธรรมได้หรือไม่ หรือเป็นเพียงเครื่องมือที่ผู้ใช้ต้องรับผิดชอบ?
• การให้เหตุผลทางจริยธรรมควรถูกนำมาใช้ในระบบอัตโนมัติอย่างไร หากจะมีการนำมาใช้?
• ใครเป็นผู้รับผิดชอบเมื่อระบบอัตโนมัติก่อให้เกิดอันตรายที่ไม่มีใครตั้งใจโดยเฉพาะ?
• มีการกระทำบางอย่าง เช่น การใช้กำลังถึงแก่ชีวิต ที่ไม่ควรถูกมอบหมายให้เครื่องจักรทำหรือไม่?

Key theories

ตัวแทนทางศีลธรรมเทียม

Wallach และ Allen แยกแยะระดับความสามารถทางศีลธรรมของเครื่องจักร—ตั้งแต่ 'การปฏิบัติงาน' (operational) ไปจนถึง 'ศีลธรรมเชิงหน้าที่' (functional morality)—และตรวจสอบแนวทางแบบบนลงล่าง (อิงกฎ) และล่างขึ้นบน (อิงการเรียนรู้) ในการสร้างระบบที่ทำงานอย่างมีจริยธรรม

ช่องว่างความรับผิดชอบ

Andreas Matthias โต้แย้งว่าเมื่อเครื่องจักรเรียนรู้และกระทำในลักษณะที่ผู้สร้างไม่สามารถคาดเดาหรือควบคุมได้อย่างเต็มที่ การกำหนดความรับผิดชอบแบบดั้งเดิมอาจไม่สามารถนำไปใช้กับใครได้ ทำให้เกิดช่องว่างขึ้น

History

จริยธรรมของเครื่องจักรเริ่มเป็นรูปเป็นร่างขึ้นในช่วงทศวรรษ 2000 โดยมีหนังสือ Moral Machines (2009) ของ Wallach และ Allen เป็นการสังเคราะห์ที่สำคัญ แนวคิด 'ช่องว่างความรับผิดชอบ' ของ Matthias ในปี 2004 และการวิเคราะห์อาวุธปล่อยอัตโนมัติของ Sparrow ในปี 2007 ได้วางกรอบการถกเถียงที่ยั่งยืนซึ่งทวีความรุนแรงขึ้นพร้อมกับความก้าวหน้าในด้านหุ่นยนต์และยานพาหนะอัตโนมัติ

Debates

ความรับผิดชอบต่ออาวุธปล่อยอัตโนมัติ

Sparrow โต้แย้งว่าไม่มีใครสามารถรับผิดชอบได้อย่างยุติธรรมต่อการตัดสินใจสังหารของอาวุธปล่อยอัตโนมัติเต็มรูปแบบ ซึ่งเขาถือเป็นเหตุผลที่ไม่ควรนำอาวุธดังกล่าวไปใช้งาน; ในขณะที่ผู้อื่นโต้แย้งว่าช่องว่างความรับผิดชอบนั้นเป็นของจริงหรือไม่ หรือไม่สามารถแก้ไขได้

Key figures

• Wendell Wallach
• Colin Allen
• Andreas Matthias
• Robert Sparrow

Seminal works

• wallach2009
• matthias2004

Frequently asked questions

เครื่องจักรสามารถเป็นตัวแทนทางศีลธรรมได้จริงหรือ?

เรื่องนี้ยังคงเป็นที่ถกเถียงกันอยู่ บางคนแย้งว่าเครื่องจักรสามารถปฏิบัติตามกฎเกณฑ์ทางจริยธรรมได้มากที่สุด ('ศีลธรรมเชิงหน้าที่') โดยปราศจากความเป็นตัวแทนหรือความรับผิดชอบที่แท้จริง ในขณะที่บางคนสำรวจความหมายที่ลึกซึ้งกว่านี้ การถกเถียงขึ้นอยู่กับว่าความเป็นตัวแทนทางศีลธรรมต้องการอะไร

'ช่องว่างความรับผิดชอบ' คืออะไร?

เป็นความกังวลว่าเมื่อระบบการเรียนรู้อัตโนมัติทำงานในลักษณะที่ไม่มีใครสามารถคาดเดาหรือควบคุมได้ ทั้งผู้ออกแบบ ผู้ปฏิบัติงาน หรือตัวเครื่องจักรเอง ก็ไม่สามารถถูกถือว่ารับผิดชอบต่อความเสียหายที่เกิดขึ้นได้อย่างยุติธรรม