Đạo đức Công nghệ và AI
Đạo đức công nghệ và AI nghiên cứu các vấn đề đạo đức nảy sinh từ các tạo tác và hệ thống công nghệ, đặc biệt chú ý đến trí tuệ nhân tạo, tự động hóa và ra quyết định dựa trên dữ liệu.
Definition
Nhánh của đạo đức học ứng dụng liên quan đến các hàm ý đạo đức của công nghệ, đặc biệt là điện toán, trí tuệ nhân tạo và các hệ thống tự động.
Scope
Lĩnh vực này bao gồm các giá trị được lồng ghép trong thiết kế công nghệ, đạo đức của trí tuệ nhân tạo và các hệ thống tự trị, tính công bằng của thuật toán, quyền riêng tư và giám sát, trách nhiệm giải trình đối với các quyết định tự động, và câu hỏi rộng hơn về việc liệu công nghệ có phải là công cụ trung lập hay mang ý nghĩa chính trị và đạo đức. Nó bao gồm các nguyên tắc và khuôn khổ đạo đức AI được đề xuất. Là một chủ đề tham khảo, nó mô tả các vấn đề và tranh luận này hơn là đưa ra các quy định về thiết kế hoặc chính sách.
Sub-topics
Core questions
- Liệu công nghệ có phải là công cụ trung lập về mặt đạo đức, hay chúng thể hiện các giá trị và chính trị?
- Ai chịu trách nhiệm khi một hệ thống tự động hoặc AI gây ra thiệt hại?
- Tính công bằng, minh bạch và trách nhiệm giải trình nên được áp dụng như thế nào đối với các quyết định thuật toán?
- Những nguyên tắc nào, nếu có, nên chi phối sự phát triển và triển khai AI?
Key theories
- Tạo tác có tính chính trị
- Luận điểm của Langdon Winner cho rằng các tạo tác công nghệ có thể thể hiện các hình thức quyền lực và thẩm quyền cụ thể, do đó công nghệ không trung lập về giá trị mà có thể định hình các sắp xếp xã hội và chính trị.
- Các khuôn khổ đạo đức AI dựa trên nguyên tắc
- Floridi và Cowls tổng hợp các nguyên tắc AI được đề xuất rộng rãi thành lòng nhân ái, không gây hại, quyền tự chủ, công lý và khả năng giải thích, dựa trên và mở rộng truyền thống đạo đức sinh học.
History
Đạo đức máy tính phát triển từ những năm 1980, và triết học công nghệ rộng hơn từ các công trình của những nhân vật như Winner. Việc triển khai nhanh chóng học máy trong những năm 2010 đã thúc đẩy sự bùng nổ của các nghiên cứu về đạo đức AI và sự phổ biến của các hướng dẫn dựa trên nguyên tắc được khảo sát bởi Jobin và các đồng nghiệp.
Debates
- Liệu các nguyên tắc cấp cao có đủ hay không
- Sự đồng thuận về các nguyên tắc AI rộng lớn là phổ biến, nhưng các học giả tranh luận liệu các nguyên tắc đó có thể được vận hành hay liệu chúng có nguy cơ trở thành 'rửa đạo đức' nếu không có sự thực thi và thực hành cụ thể.
Key figures
- Langdon Winner
- Luciano Floridi
- Helen Nissenbaum
- Shannon Vallor
Related topics
Seminal works
- winner1980
- floridi2019
- jobin2019
Frequently asked questions
- Đạo đức AI có phải là một lĩnh vực mới không?
- Các mối quan tâm của nó được xây dựng dựa trên các truyền thống cũ hơn trong đạo đức máy tính và triết học công nghệ, nhưng thuật ngữ và phần lớn tài liệu đương đại đã trở nên nổi bật vào những năm 2010 cùng với những tiến bộ trong học máy.
- Đạo đức công nghệ có cho rằng công nghệ là xấu không?
- Không. Nó nghiên cứu cả lợi ích và rủi ro của công nghệ và đặt câu hỏi về cách chúng nên được thiết kế và quản lý; nhiều quan điểm nhấn mạnh rằng cùng một công nghệ có thể có những tác động đạo đức rất khác nhau tùy thuộc vào cách sử dụng và bối cảnh.