机器伦理与自主系统
机器伦理探讨人工智能系统能否以及如何进行道德行为，以及如何为自动驾驶汽车和自主武器等自主机器的行为分配责任。
用 PaperMind 寻找选题即将推出Find papers & topics
Tools & resources
Learn & explore
视频即将推出
Definition
对人工自主系统中的道德能动性和责任进行研究，包括旨在构建能够进行道德决策的机器的努力。
Scope
本主题涵盖了设计“人工道德代理”的前景，区分了遵循伦理规则的系统和具有更完整道德能动性的系统，探讨了当学习系统行为不可预测时可能出现的“责任空白”，以及自动驾驶汽车和致命自主武器等应用案例。它调查了哲学立场及其背后的推理，描述了争论，而不是规定应如何构建或部署此类系统。
Core questions
- 机器能否成为道德主体，还是仅仅是用户负责的工具？
- 伦理推理应如何在自主系统中实现（如果需要实现的话）？
- 当自主系统造成无人明确意图的伤害时，谁应负责？
- 是否存在不应委托给机器的行为，例如致命武力？
Key theories
- 人工道德代理
- Wallach和Allen区分了机器道德能力的不同程度——从“操作性”到“功能性”道德——并考察了构建能够道德行为的系统的自上而下（基于规则）和自下而上（基于学习）的方法。
- 责任空白
- Andreas Matthias认为，由于机器以其制造者无法完全预测或控制的方式学习和行动，传统的责任归属可能无法适用于任何人，从而造成了空白。
History
机器伦理在21世纪初逐渐成形，Wallach和Allen的《道德机器》（2009）提供了关键的综合。Matthias在2004年提出的“责任空白”和Sparrow在2007年对自主武器的分析，构成了随着机器人技术和自主车辆的进步而加剧的持久争论的框架。
Debates
- 自主武器的责任
- Sparrow认为，没有人可以为全自主武器的杀戮决策承担公正的责任，他以此作为反对部署它们的理由；其他人则质疑责任空白是否真实存在或无法弥补。
Key figures
- Wendell Wallach
- Colin Allen
- Andreas Matthias
- Robert Sparrow
Related topics
Seminal works
- wallach2009
- matthias2004
Frequently asked questions
- 机器真的能成为道德主体吗？
- 这一点存在争议。一些人认为机器最多只能遵循伦理规则（“功能性道德”），而没有真正的能动性或问责制，而另一些人则探索更强的意义；争论的关键在于道德能动性需要什么。
- 什么是“责任空白”？
- 这是一种担忧，即当自主学习系统以无人能预测或控制的方式行动时，设计者、操作者或机器都无法为由此造成的损害承担公平的责任。