Éthique des machines et systèmes autonomes

L'éthique des machines s'interroge sur la capacité des systèmes artificiels à agir moralement, et sur la manière dont la responsabilité devrait être attribuée pour les actions des machines autonomes, telles que les voitures sans conducteur et les armes autonomes.

Definition

L'étude de l'agentivité morale et de la responsabilité dans les systèmes autonomes artificiels, y compris les efforts visant à construire des machines capables de prendre des décisions morales.

Scope

Ce sujet aborde la perspective de la conception d'« agents moraux artificiels », la distinction entre les systèmes qui suivent des règles éthiques et ceux dotés d'une pleine agentivité morale, le « fossé de responsabilité » (responsibility gap) qui peut survenir lorsque les systèmes d'apprentissage agissent de manière imprévisible, et des cas d'application tels que les véhicules autonomes et les armes létales autonomes. Il examine les positions philosophiques et les raisonnements qui les sous-tendent, décrivant le débat plutôt que de prescrire comment de tels systèmes devraient être construits ou déployés.

Core questions

• Une machine peut-elle être un agent moral, ou seulement un outil dont les utilisateurs sont responsables ?
• Comment le raisonnement éthique devrait-il, le cas échéant, être mis en œuvre dans les systèmes autonomes ?
• Qui est responsable lorsqu'un système autonome cause un préjudice que personne n'avait spécifiquement l'intention de causer ?
• Existe-t-il des actions, telles que l'usage de la force létale, qui ne devraient jamais être déléguées aux machines ?

Key theories

Agents moraux artificiels

Wallach et Allen distinguent différents degrés de capacité morale des machines — de la moralité « opérationnelle » à la moralité « fonctionnelle » — et examinent les approches descendantes (basées sur des règles) et ascendantes (basées sur l'apprentissage) pour construire des systèmes agissant de manière éthique.

Le fossé de responsabilité

Andreas Matthias soutient qu'à mesure que les machines apprennent et agissent de manières que leurs concepteurs ne peuvent pas entièrement prédire ou contrôler, les attributions traditionnelles de responsabilité pourraient ne plus s'appliquer à quiconque, créant ainsi un fossé.

History

L'éthique des machines a pris forme dans les années 2000, avec l'ouvrage Moral Machines (2009) de Wallach et Allen offrant une synthèse clé. Le « fossé de responsabilité » (responsibility gap) de Matthias en 2004 et l'analyse de Sparrow en 2007 sur les armes autonomes ont encadré des débats durables qui se sont intensifiés avec les avancées en robotique et dans les véhicules autonomes.

Debates

Responsabilité des armes autonomes

Sparrow soutient que personne ne peut être tenu justement responsable des décisions de tuer prises par des armes entièrement autonomes, ce qu'il considère comme une raison de ne pas les déployer ; d'autres contestent si le fossé de responsabilité est réel ou infranchissable.

Key figures

• Wendell Wallach
• Colin Allen
• Andreas Matthias
• Robert Sparrow

Seminal works

• wallach2009
• matthias2004

Frequently asked questions

Les machines peuvent-elles réellement être des agents moraux ?

Ceci est contesté. Certains soutiennent que les machines peuvent au mieux suivre des règles éthiques (une « moralité fonctionnelle ») sans véritable agentivité ni responsabilité, tandis que d'autres explorent des sens plus forts ; le débat porte sur ce que l'agentivité morale exige.

Qu'est-ce que le « fossé de responsabilité » ?

C'est la préoccupation selon laquelle, lorsque des systèmes d'apprentissage autonomes agissent de manières que personne n'a pu prédire ou contrôler, ni les concepteurs, ni les opérateurs, ni la machine ne peuvent être équitablement tenus responsables des préjudices qui en résultent.