Ética da Tecnologia e IA
A ética da tecnologia e da IA estuda as questões morais levantadas por artefatos e sistemas tecnológicos, com atenção particular à inteligência artificial, automação e tomada de decisões baseada em dados.
Definition
O ramo da ética aplicada que se preocupa com as implicações morais da tecnologia, especialmente da computação, inteligência artificial e sistemas automatizados.
Scope
Esta área abrange os valores incorporados no design tecnológico, a ética da inteligência artificial e dos sistemas autônomos, a equidade algorítmica, a privacidade e a vigilância, a responsabilização por decisões automatizadas e a questão mais ampla de saber se as tecnologias são ferramentas neutras ou se carregam significado político e moral. Inclui princípios e estruturas propostas para a ética da IA. Como um assunto de referência, descreve essas questões e debates, em vez de oferecer prescrições de design ou políticas.
Sub-topics
Core questions
- As tecnologias são ferramentas moralmente neutras, ou incorporam valores e políticas?
- Quem é responsável quando um sistema automatizado ou de IA causa danos?
- Como a equidade, a transparência e a responsabilidade devem ser aplicadas às decisões algorítmicas?
- Quais princípios, se houver, devem governar o desenvolvimento e a implantação da IA?
Key theories
- Artefatos têm política
- A tese de Langdon Winner de que artefatos tecnológicos podem incorporar formas específicas de poder e autoridade, de modo que as tecnologias não são neutras em valor, mas podem estabelecer arranjos sociais e políticos.
- Estruturas de ética da IA baseadas em princípios
- Floridi e Cowls sintetizam princípios de IA amplamente propostos em beneficência, não maleficência, autonomia, justiça e explicabilidade, baseando-se e estendendo a tradição da bioética.
History
A ética da computação desenvolveu-se a partir da década de 1980, e a filosofia da tecnologia mais ampla a partir do trabalho de figuras como Winner. A rápida implantação do aprendizado de máquina na década de 2010 impulsionou uma explosão de estudos sobre ética da IA e a proliferação de diretrizes baseadas em princípios, pesquisadas por Jobin e colegas.
Debates
- Se os princípios de alto nível são suficientes
- A convergência em princípios amplos de IA é generalizada, mas os estudiosos debatem se tais princípios podem ser operacionalizados ou se correm o risco de se tornarem 'lavagem ética' sem aplicação e prática concreta.
Key figures
- Langdon Winner
- Luciano Floridi
- Helen Nissenbaum
- Shannon Vallor
Related topics
Seminal works
- winner1980
- floridi2019
- jobin2019
Frequently asked questions
- A ética da IA é um campo novo?
- Suas preocupações baseiam-se em tradições mais antigas na ética da computação e na filosofia da tecnologia, mas o termo e grande parte da literatura contemporânea ganharam destaque na década de 2010, juntamente com os avanços no aprendizado de máquina.
- A ética da tecnologia assume que a tecnologia é ruim?
- Não. Ela estuda tanto os benefícios quanto os riscos das tecnologias e pergunta como elas devem ser projetadas e governadas; muitas posições enfatizam que a mesma tecnologia pode ter efeitos morais muito diferentes dependendo do uso e do contexto.