Ética de las Máquinas y Sistemas Autónomos

La ética de las máquinas se pregunta si los sistemas artificiales pueden actuar moralmente y cómo, y cómo se debe asignar la responsabilidad por las acciones de máquinas autónomas como los coches autónomos y las armas autónomas.

Definition

El estudio de la agencia moral y la responsabilidad en sistemas artificiales autónomos, incluyendo los esfuerzos para construir máquinas capaces de tomar decisiones morales.

Scope

Este tema cubre la perspectiva de diseñar 'agentes morales artificiales', la distinción entre sistemas que siguen reglas éticas y aquellos con una agencia moral más completa, la 'brecha de responsabilidad' que puede surgir cuando los sistemas de aprendizaje actúan de manera impredecible, y casos aplicados como los vehículos autónomos y las armas autónomas letales. Se examinan las posiciones filosóficas y el razonamiento detrás de ellas, describiendo el debate en lugar de prescribir cómo deben construirse o desplegarse dichos sistemas.

Core questions

• ¿Puede una máquina ser un agente moral, o solo una herramienta de la que sus usuarios son responsables?
• ¿Cómo debería implementarse el razonamiento ético, si es que lo hace, en los sistemas autónomos?
• ¿Quién es responsable cuando un sistema autónomo causa un daño que nadie pretendía específicamente?
• ¿Existen acciones, como el uso de fuerza letal, que nunca deberían delegarse a las máquinas?

Key theories

Agentes morales artificiales

Wallach y Allen distinguen grados de capacidad moral de las máquinas —desde la moralidad 'operacional' hasta la 'funcional'— y examinan enfoques de arriba hacia abajo (basados en reglas) y de abajo hacia arriba (basados en el aprendizaje) para construir sistemas que actúen éticamente.

La brecha de responsabilidad

Andreas Matthias argumenta que, a medida que las máquinas aprenden y actúan de maneras que sus creadores no pueden predecir o controlar completamente, las atribuciones tradicionales de responsabilidad pueden dejar de aplicarse a nadie, creando una brecha.

History

La ética de las máquinas tomó forma en la década de 2000, con la obra 'Moral Machines' (2009) de Wallach y Allen, que proporcionó una síntesis clave. La 'brecha de responsabilidad' de Matthias en 2004 y el análisis de Sparrow en 2007 sobre las armas autónomas enmarcaron debates duraderos que se intensificaron con los avances en robótica y vehículos autónomos.

Debates

Responsabilidad por armas autónomas

Sparrow argumenta que nadie puede ser justamente considerado responsable de las decisiones de matar de armas totalmente autónomas, lo que él considera una razón para no desplegarlas; otros discuten si la brecha de responsabilidad es genuina o insalvable.

Key figures

• Wendell Wallach
• Colin Allen
• Andreas Matthias
• Robert Sparrow

Seminal works

• wallach2009
• matthias2004

Frequently asked questions

¿Pueden las máquinas ser realmente agentes morales?

Esto es objeto de debate. Algunos argumentan que las máquinas pueden, como mucho, seguir reglas éticas ('moralidad funcional') sin una agencia o responsabilidad genuina, mientras que otros exploran sentidos más fuertes; el debate gira en torno a lo que requiere la agencia moral.

¿Qué es la 'brecha de responsabilidad'?

Es la preocupación de que cuando los sistemas de aprendizaje autónomos actúan de maneras que nadie podría predecir o controlar, ni los diseñadores, ni los operadores, ni la máquina pueden ser justamente considerados responsables de los daños resultantes.