Этика технологий и ИИ
Этика технологий и искусственного интеллекта изучает моральные вопросы, возникающие в связи с технологическими артефактами и системами, уделяя особое внимание искусственному интеллекту, автоматизации и принятию решений на основе данных.
Definition
Раздел прикладной этики, занимающийся моральными последствиями технологий, особенно вычислительной техники, искусственного интеллекта и автоматизированных систем.
Scope
Эта область охватывает ценности, заложенные в технологическом дизайне, этику искусственного интеллекта и автономных систем, алгоритмическую справедливость, конфиденциальность и наблюдение, ответственность за автоматизированные решения, а также более широкий вопрос о том, являются ли технологии нейтральными инструментами или несут политическое и моральное значение. Она включает предложенные принципы и рамки этики ИИ. Как справочный предмет, она описывает эти проблемы и дебаты, а не предлагает предписания по дизайну или политике.
Sub-topics
Core questions
- Являются ли технологии морально нейтральными инструментами или они воплощают ценности и политику?
- Кто несет ответственность, когда автоматизированная система или система ИИ причиняет вред?
- Как справедливость, прозрачность и подотчетность должны применяться к алгоритмическим решениям?
- Какие принципы, если таковые имеются, должны регулировать разработку и внедрение ИИ?
Key theories
- Артефакты имеют политику
- Тезис Лэнгдона Виннера о том, что технологические артефакты могут воплощать специфические формы власти и авторитета, поэтому технологии не являются ценностно-нейтральными, но могут устанавливать социальные и политические порядки.
- Принципиальные этические рамки ИИ
- Флориди и Коулз синтезируют широко предлагаемые принципы ИИ в благодеяние, непричинение вреда, автономию, справедливость и объяснимость, опираясь на традицию биоэтики и расширяя ее.
History
Компьютерная этика развивалась с 1980-х годов, а более широкая философия технологий — из работ таких деятелей, как Виннер. Быстрое внедрение машинного обучения в 2010-х годах вызвало взрыв исследований в области этики ИИ и распространение принципиальных руководств, рассмотренных Джобином и его коллегами.
Debates
- Достаточны ли принципы высокого уровня
- Широко распространено согласие по общим принципам ИИ, но ученые спорят о том, могут ли такие принципы быть реализованы на практике или они рискуют стать «этическим отмыванием» без принуждения и конкретной практики.
Key figures
- Langdon Winner
- Luciano Floridi
- Helen Nissenbaum
- Shannon Vallor
Related topics
Seminal works
- winner1980
- floridi2019
- jobin2019
Frequently asked questions
- Является ли этика ИИ новой областью?
- Ее проблемы основываются на более старых традициях компьютерной этики и философии технологий, но сам термин и большая часть современной литературы получили известность в 2010-х годах наряду с достижениями в области машинного обучения.
- Предполагает ли этика технологий, что технологии плохи?
- Нет. Она изучает как преимущества, так и риски технологий и задается вопросом, как они должны быть разработаны и управляемы; многие позиции подчеркивают, что одна и та же технология может иметь очень разные моральные последствия в зависимости от использования и контекста.