기술 및 AI 윤리
기술 및 AI 윤리는 기술적 인공물과 시스템, 특히 인공지능, 자동화, 데이터 기반 의사결정으로 인해 발생하는 도덕적 질문을 연구합니다.
PaperMind(으)로 주제 찾기곧 제공Find papers & topics
Tools & resources
Learn & explore
동영상곧 제공
Definition
기술, 특히 컴퓨팅, 인공지능 및 자동화 시스템의 도덕적 함의를 다루는 응용 윤리의 한 분야입니다.
Scope
이 분야는 기술 설계에 내재된 가치, 인공지능 및 자율 시스템의 윤리, 알고리즘 공정성, 프라이버시 및 감시, 자동화된 결정에 대한 책임, 그리고 기술이 중립적인 도구인지 아니면 정치적, 도덕적 중요성을 지니는지에 대한 광범위한 질문을 다룹니다. 여기에는 제안된 AI 윤리 원칙 및 프레임워크가 포함됩니다. 참고 주제로서, 설계나 정책 처방을 제공하기보다는 이러한 문제와 논쟁을 설명합니다.
Sub-topics
Core questions
- 기술은 도덕적으로 중립적인 도구인가, 아니면 가치와 정치를 내포하고 있는가?
- 자동화 또는 AI 시스템이 피해를 야기할 때 누가 책임이 있는가?
- 공정성, 투명성, 책임성은 알고리즘 결정에 어떻게 적용되어야 하는가?
- AI의 개발 및 배포를 규율해야 할 원칙이 있다면 무엇인가?
Key theories
- 인공물은 정치를 가진다
- 랭던 위너(Langdon Winner)의 논지는 기술적 인공물이 특정 형태의 권력과 권위를 내포할 수 있으므로, 기술은 가치 중립적이지 않으며 사회적, 정치적 배열을 결정할 수 있다는 것입니다.
- 원칙 기반 AI 윤리 프레임워크
- 플로리디(Floridi)와 카울스(Cowls)는 널리 제안된 AI 원칙을 생명윤리 전통을 바탕으로 확장하여 자선(beneficence), 무해성(non-maleficence), 자율성(autonomy), 정의(justice), 설명가능성(explicability)으로 종합합니다.
History
컴퓨터 윤리는 1980년대부터 발전했으며, 더 광범위한 기술 철학은 위너(Winner)와 같은 인물들의 연구에서 비롯되었습니다. 2010년대 기계 학습의 급속한 배포는 AI 윤리 학문의 폭발적인 증가와 Jobin과 동료들이 조사한 원칙 기반 지침의 확산을 촉발했습니다.
Debates
- 고수준 원칙만으로 충분한가
- 광범위한 AI 원칙에 대한 합의는 널리 퍼져 있지만, 학자들은 그러한 원칙이 실행 가능할지 또는 강제력과 구체적인 실천 없이는 '윤리 세탁(ethics washing)'이 될 위험이 있는지에 대해 논쟁합니다.
Key figures
- Langdon Winner
- Luciano Floridi
- Helen Nissenbaum
- Shannon Vallor
Related topics
Seminal works
- winner1980
- floridi2019
- jobin2019
Frequently asked questions
- AI 윤리는 새로운 분야인가?
- 그 관심사는 컴퓨터 윤리 및 기술 철학의 오래된 전통에 기반을 두고 있지만, 이 용어와 현대 문헌의 상당 부분은 기계 학습의 발전과 함께 2010년대에 중요성이 부각되었습니다.
- 기술 윤리는 기술이 나쁘다고 가정하는가?
- 아닙니다. 기술의 이점과 위험을 모두 연구하고 기술이 어떻게 설계되고 관리되어야 하는지 묻습니다. 많은 입장은 동일한 기술이 사용 및 맥락에 따라 매우 다른 도덕적 영향을 미칠 수 있음을 강조합니다.