Makine Etiği ve Otonom Sistemler
Makine etiği, yapay sistemlerin ahlaki olarak hareket edip edemeyeceğini ve nasıl hareket edebileceğini, ayrıca sürücüsüz araçlar ve otonom silahlar gibi otonom makinelerin eylemlerinden sorumluluğun nasıl atanması gerektiğini sorgulamaktadır.
Tanım
Yapay otonom sistemlerde ahlaki faillik ve sorumluluğun incelenmesi olup, ahlaki karar verme yeteneğine sahip makineler inşa etme çabalarını da içermektedir.
Kapsam
Bu konu, 'yapay ahlaki ajanlar' tasarlama olasılığını, etik kurallara uyan sistemler ile daha tam ahlaki failliğe sahip sistemler arasındaki ayrımı, öğrenen sistemler öngörülemeyen şekillerde hareket ettiğinde ortaya çıkabilecek 'sorumluluk boşluğunu' ve otonom araçlar ile ölümcül otonom silahlar gibi uygulamalı vakaları kapsamaktadır. Konu, felsefi pozisyonları ve bunların ardındaki gerekçeleri incelemekte, bu tür sistemlerin nasıl inşa edilmesi veya konuşlandırılması gerektiğine dair bir reçete sunmaktan ziyade tartışmayı betimlemektedir.
Temel sorular
- Bir makine ahlaki bir fail olabilir mi, yoksa yalnızca kullanıcılarının sorumlu olduğu bir araç mıdır?
- Etik muhakeme, otonom sistemlerde nasıl ve ne ölçüde uygulanmalıdır?
- Otonom bir sistemin kimsenin özel olarak niyet etmediği bir zarara yol açması durumunda kim sorumludur?
- Ölümcül güç kullanımı gibi, makinelere asla devredilmemesi gereken eylemler var mıdır?
Temel kuramlar
- Yapay ahlaki ajanlar
- Wallach ve Allen, makine ahlaki kapasitesinin derecelerini – 'operasyonel'den 'işlevsel' ahlaka kadar – ayırt etmekte ve etik davranan sistemler inşa etmeye yönelik yukarıdan aşağıya (kural tabanlı) ve aşağıdan yukarıya (öğrenme tabanlı) yaklaşımları incelemektedir.
- Sorumluluk boşluğu
- Andreas Matthias, makineler üreticilerinin tam olarak tahmin edemeyeceği veya kontrol edemeyeceği şekillerde öğrendikçe ve hareket ettikçe, geleneksel sorumluluk atıflarının hiç kimse için geçerli olmayabileceğini ve bir boşluk yaratabileceğini savunmaktadır.
Tarihçe
Makine etiği, 2000'li yıllarda Wallach ve Allen'ın Moral Machines (2009) adlı eseriyle önemli bir sentez sunarak şekillenmiştir. Matthias'ın 2004 tarihli 'sorumluluk boşluğu' ve Sparrow'un 2007 tarihli otonom silahlar analizi, robotik ve otonom araçlardaki gelişmelerle yoğunlaşan kalıcı tartışmaları çerçevelemiştir.
Tartışmalar
- Otonom silahlar için sorumluluk
- Sparrow, tam otonom silahların öldürme kararlarından hiç kimsenin adil bir şekilde sorumlu tutulamayacağını öne sürmekte ve bunu bu tür silahların konuşlandırılmasına karşı bir neden olarak görmektedir; diğerleri ise sorumluluk boşluğunun gerçek olup olmadığını veya aşılamaz olup olmadığını tartışmaktadır.
Öne çıkan isimler
- Wendell Wallach
- Colin Allen
- Andreas Matthias
- Robert Sparrow
İlgili konular
Temel eserler
- wallach2009
- matthias2004
Sıkça sorulan sorular
- Makineler gerçekten ahlaki fail olabilir mi?
- Bu durum tartışmalıdır. Bazıları, makinelerin en fazla gerçek faillik veya hesap verebilirlik olmaksızın etik kurallara ('işlevsel ahlak') uyabileceğini savunurken, diğerleri daha güçlü anlamları araştırmaktadır; tartışma, ahlaki failliğin ne gerektirdiği üzerine odaklanmaktadır.
- 'Sorumluluk boşluğu' nedir?
- Otonom öğrenen sistemlerin kimsenin tahmin edemeyeceği veya kontrol edemeyeceği şekillerde hareket etmesi durumunda, ne tasarımcıların, ne operatörlerin ne de makinenin ortaya çıkan zararlardan adil bir şekilde sorumlu tutulamayacağına dair bir endişedir.