기계 윤리학 및 자율 시스템

기계 윤리학은 인공 시스템이 도덕적으로 행동할 수 있는지, 그리고 어떻게 행동할 수 있는지, 그리고 자율주행차나 자율 무기와 같은 자율 기계의 행동에 대한 책임이 어떻게 할당되어야 하는지를 묻습니다.

Definition

도덕적 의사결정 능력을 갖춘 기계를 구축하려는 노력을 포함하여 인공 자율 시스템에서의 도덕적 행위 능력과 책임에 대한 연구.

Scope

이 주제는 '인공 도덕 행위자'를 설계할 가능성, 윤리적 규칙을 따르는 시스템과 더 완전한 도덕적 행위 능력을 가진 시스템 간의 구별, 학습 시스템이 예측 불가능하게 행동할 때 발생할 수 있는 '책임 공백', 그리고 자율주행차 및 치명적인 자율 무기와 같은 응용 사례를 다룹니다. 이는 철학적 입장과 그 배경이 되는 추론을 조사하며, 그러한 시스템이 어떻게 구축되거나 배포되어야 하는지를 규정하기보다는 논쟁을 설명합니다.

Core questions

• 기계가 도덕적 행위자가 될 수 있는가, 아니면 사용자가 책임져야 할 도구에 불과한가?
• 자율 시스템에 윤리적 추론이 구현되어야 한다면, 어떻게 구현되어야 하는가?
• 자율 시스템이 아무도 의도하지 않은 해를 야기했을 때 누가 책임져야 하는가?
• 치명적인 무력과 같이 기계에 위임되어서는 안 되는 행동이 있는가?

Key theories

인공 도덕 행위자

Wallach와 Allen은 기계의 도덕적 능력의 정도를 '운영적' 도덕성부터 '기능적' 도덕성까지 구분하고, 윤리적으로 행동하는 시스템을 구축하기 위한 하향식(규칙 기반) 및 상향식(학습 기반) 접근 방식을 검토합니다.

책임 공백

Andreas Matthias는 기계가 제작자가 완전히 예측하거나 통제할 수 없는 방식으로 학습하고 행동함에 따라, 전통적인 책임 귀속이 누구에게도 적용되지 않아 공백이 발생할 수 있다고 주장합니다.

History

기계 윤리학은 2000년대에 Wallach와 Allen의 『Moral Machines』(2009)가 핵심적인 종합을 제공하면서 형성되었습니다. Matthias의 2004년 '책임 공백'과 Sparrow의 2007년 자율 무기 분석은 로봇 공학 및 자율주행차의 발전과 함께 심화된 지속적인 논쟁의 틀을 마련했습니다.

Debates

자율 무기에 대한 책임

Sparrow는 완전 자율 무기의 살상 결정에 대해 누구도 정당하게 책임을 질 수 없다고 주장하며, 이를 자율 무기 배포에 반대하는 이유로 삼습니다. 다른 이들은 책임 공백이 진정한 것인지 또는 극복할 수 없는 것인지에 대해 이의를 제기합니다.

Key figures

• Wendell Wallach
• Colin Allen
• Andreas Matthias
• Robert Sparrow

Seminal works

• wallach2009
• matthias2004

Frequently asked questions

기계가 정말 도덕적 행위자가 될 수 있는가?

이에 대해서는 논쟁이 있습니다. 일부는 기계가 진정한 행위 능력이나 책임 없이 윤리적 규칙('기능적 도덕성')을 따를 수 있을 뿐이라고 주장하는 반면, 다른 이들은 더 강력한 의미를 탐구합니다. 이 논쟁은 도덕적 행위 능력이 무엇을 요구하는지에 달려 있습니다.

‘책임 공백’이란 무엇인가?

이는 자율 학습 시스템이 아무도 예측하거나 통제할 수 없는 방식으로 행동할 때, 설계자, 운영자, 또는 기계 중 누구도 발생한 피해에 대해 공정하게 책임을 질 수 없다는 우려를 말합니다.