Éthique de la technologie et de l'IA
L'éthique de la technologie et de l'IA étudie les questions morales soulevées par les artefacts et systèmes technologiques, avec une attention particulière portée à l'intelligence artificielle, à l'automatisation et à la prise de décision basée sur les données.
Definition
La branche de l'éthique appliquée qui s'intéresse aux implications morales de la technologie, en particulier de l'informatique, de l'intelligence artificielle et des systèmes automatisés.
Scope
Ce domaine couvre les valeurs intégrées dans la conception technologique, l'éthique de l'intelligence artificielle et des systèmes autonomes, l'équité algorithmique, la vie privée et la surveillance, la responsabilité des décisions automatisées, et la question plus large de savoir si les technologies sont des outils neutres ou si elles revêtent une signification politique et morale. Il inclut les principes et cadres éthiques proposés pour l'IA. En tant que sujet de référence, il décrit ces enjeux et débats plutôt que de proposer des prescriptions en matière de conception ou de politique.
Sub-topics
Core questions
- Les technologies sont-elles des outils moralement neutres, ou incarnent-elles des valeurs et des politiques ?
- Qui est responsable lorsqu'un système automatisé ou d'IA cause un préjudice ?
- Comment l'équité, la transparence et la responsabilité devraient-elles s'appliquer aux décisions algorithmiques ?
- Quels principes, le cas échéant, devraient régir le développement et le déploiement de l'IA ?
Key theories
- Les artefacts ont une politique
- La thèse de Langdon Winner selon laquelle les artefacts technologiques peuvent incarner des formes spécifiques de pouvoir et d'autorité, de sorte que les technologies ne sont pas neutres en termes de valeurs mais peuvent établir des arrangements sociaux et politiques.
- Cadres éthiques de l'IA fondés sur des principes
- Floridi et Cowls synthétisent les principes de l'IA largement proposés en bienfaisance, non-malfaisance, autonomie, justice et explicabilité, s'inspirant et étendant la tradition de la bioéthique.
History
L'éthique informatique s'est développée à partir des années 1980, et la philosophie plus large de la technologie à partir des travaux de figures telles que Winner. Le déploiement rapide de l'apprentissage automatique (machine learning) dans les années 2010 a provoqué une explosion de la recherche en éthique de l'IA et la prolifération de lignes directrices fondées sur des principes, recensées par Jobin et ses collègues.
Debates
- La suffisance des principes de haut niveau
- La convergence sur des principes généraux de l'IA est répandue, mais les chercheurs débattent de la possibilité d'opérationnaliser de tels principes ou s'ils risquent de devenir du « blanchiment éthique » (ethics washing) sans application et pratique concrète.
Key figures
- Langdon Winner
- Luciano Floridi
- Helen Nissenbaum
- Shannon Vallor
Related topics
Seminal works
- winner1980
- floridi2019
- jobin2019
Frequently asked questions
- L'éthique de l'IA est-elle un nouveau domaine ?
- Ses préoccupations s'appuient sur des traditions plus anciennes en éthique informatique et en philosophie de la technologie, mais le terme et une grande partie de la littérature contemporaine ont gagné en importance dans les années 2010, parallèlement aux avancées de l'apprentissage automatique (machine learning).
- L'éthique de la technologie suppose-t-elle que la technologie est mauvaise ?
- Non. Elle étudie à la fois les avantages et les risques des technologies et se demande comment elles devraient être conçues et gouvernées ; de nombreuses positions soulignent que la même technologie peut avoir des effets moraux très différents selon son utilisation et son contexte.