Etika Mesin dan Sistem Otonom

Etika mesin mempertanyakan apakah dan bagaimana sistem buatan dapat bertindak secara moral, dan bagaimana tanggung jawab harus dibebankan atas tindakan mesin otonom seperti mobil swakemudi dan senjata otonom.

Definition

Studi tentang agensi moral dan tanggung jawab dalam sistem otonom buatan, termasuk upaya untuk membangun mesin yang mampu membuat keputusan moral.

Scope

Topik ini mencakup prospek perancangan 'agen moral buatan', perbedaan antara sistem yang mengikuti aturan etika dan sistem dengan agensi moral yang lebih penuh, 'kesenjangan tanggung jawab' yang dapat muncul ketika sistem pembelajaran bertindak secara tidak terduga, dan kasus terapan seperti kendaraan otonom dan senjata otonom mematikan. Ini mensurvei posisi filosofis dan penalaran di baliknya, menjelaskan perdebatan daripada meresepkan bagaimana sistem tersebut harus dibangun atau diterapkan.

Core questions

• Dapatkah mesin menjadi agen moral, atau hanya alat yang penggunanya bertanggung jawab?
• Bagaimana penalaran etis, jika ada, harus diimplementasikan dalam sistem otonom?
• Siapa yang bertanggung jawab ketika sistem otonom menyebabkan kerugian yang tidak secara spesifik dimaksudkan oleh siapa pun?
• Apakah ada tindakan, seperti kekuatan mematikan, yang seharusnya tidak pernah didelegasikan kepada mesin?

Key theories

Agen moral buatan

Wallach dan Allen membedakan tingkat kapasitas moral mesin—dari moralitas 'operasional' hingga 'fungsional'—dan menguji pendekatan top-down (berbasis aturan) dan bottom-up (berbasis pembelajaran) untuk membangun sistem yang bertindak secara etis.

Kesenjangan tanggung jawab

Andreas Matthias berpendapat bahwa karena mesin belajar dan bertindak dengan cara yang tidak dapat sepenuhnya diprediksi atau dikendalikan oleh pembuatnya, atribusi tanggung jawab tradisional mungkin tidak berlaku untuk siapa pun, menciptakan kesenjangan.

History

Etika mesin mulai terbentuk pada tahun 2000-an, dengan buku Moral Machines (2009) karya Wallach dan Allen yang memberikan sintesis kunci. 'Kesenjangan tanggung jawab' Matthias pada tahun 2004 dan analisis Sparrow pada tahun 2007 tentang senjata otonom membingkai perdebatan abadi yang semakin intensif dengan kemajuan dalam robotika dan kendaraan otonom.

Debates

Tanggung jawab atas senjata otonom

Sparrow berpendapat bahwa tidak ada yang dapat secara adil dimintai pertanggungjawaban atas keputusan pembunuhan senjata otonom sepenuhnya, yang ia anggap sebagai alasan untuk tidak menyebarkannya; yang lain membantah apakah kesenjangan tanggung jawab itu asli atau tidak dapat dijembatani.

Key figures

• Wendell Wallach
• Colin Allen
• Andreas Matthias
• Robert Sparrow

Seminal works

• wallach2009
• matthias2004

Frequently asked questions

Bisakah mesin benar-benar menjadi agen moral?

Hal ini masih diperdebatkan. Beberapa berpendapat bahwa mesin paling banyak hanya dapat mengikuti aturan etika ('moralitas fungsional') tanpa agensi atau akuntabilitas yang sebenarnya, sementara yang lain mengeksplorasi pengertian yang lebih kuat; perdebatan ini bergantung pada apa yang dibutuhkan oleh agensi moral.

Apa itu 'kesenjangan tanggung jawab'?

Ini adalah kekhawatiran bahwa ketika sistem pembelajaran otonom bertindak dengan cara yang tidak dapat diprediksi atau dikendalikan oleh siapa pun, baik perancang, operator, maupun mesin tidak dapat secara adil dimintai pertanggungjawaban atas kerugian yang diakibatkannya.