アルゴリズムの公平性とバイアス

アルゴリズムの公平性とは、自動意思決定システムが個人やグループを公平に扱うかどうか、またどのように扱うか、そしてデータやモデルがバイアスを符号化または増幅しうる方法に関わるものです。

Definition

バイアスの測定、および公平な扱いの形式的・倫理的概念を含む、自動意思決定システムにおける公平性と差別に関する研究。

Scope

このトピックでは、データおよび機械学習システムにおけるバイアスの発生源、公平性の競合する形式的定義（人口統計学的パリティ、均等化オッズ、キャリブレーションなど）、これらが矛盾しうることを示す不可能性の結果、統計的公平性と実質的公正の関係、および雇用、融資、刑事司法などの分野における自動意思決定の社会的影響について扱います。特定のシステムがどの公平性基準を採用すべきかを規定することなく、技術的および倫理的な議論を記述します。

Core questions

• バイアスと差別はどのようにデータ駆動型意思決定システムに組み込まれるのか？
• アルゴリズムが「公平」であるとは何を意味するのか、また競合する定義を同時に満たすことは可能なのか？
• 公平性の統計的概念は、正義の法的および道徳的概念とどのように関連するのか？
• 自動システムによって生み出される差別的な結果に対して、誰が責任を負うのか？

Key theories

データ駆動型システムにおける不均衡な影響

BarocasとSelbstは、データマイニングが、差別的な意図がなくても、バイアスのかかった訓練データ、代理変数、および特徴選択を通じて、どのように差別的な結果を生み出すかを分析しています。

公平性基準の非互換性

形式的な研究は、キャリブレーションやグループ間のバランスの取れたエラー率など、公平性の異なる統計的定義が、特殊な場合を除いて一般的にすべて同時に満たされることはなく、価値観に基づく選択を強いることを示しています。

History

アルゴリズムの公平性への注目は、機械学習システムが重要な設定で展開されるようになった2010年代半ばに高まりました。BarocasとSelbstによる2016年の不均衡な影響の分析、コンピュータ科学コミュニティからの形式的な公平性の定義、およびO'Neilのような一般的な批判が、この分野の核心的な問いを確立しました。

Debates

どの公平性定義を使用するか

形式的な公平性基準は矛盾しうるため、単一の定義が適切であるか、文脈においてそれらをどのように選択するか、そして形式的な指標が実質的な公正を捉えることができるのかどうかについて議論が集中しています。

Key figures

• Solon Barocas
• Andrew Selbst
• Cynthia Dwork
• Cathy O'Neil

Seminal works

• barocas2016
• oneil2016

Frequently asked questions

保護された属性を無視しても、アルゴリズムはバイアスを持つことがありますか？

はい。人種や性別などの属性を削除しても公平性は保証されません。なぜなら、他の特徴がそれらの代理として機能する可能性があり、これは不均衡な影響の議論の中心となる現象です。

アルゴリズムの公平性について、唯一の正しい定義はありますか？

コンセンサスは存在しません。いくつかの形式的な定義が提案されており、それらが相互に非互換である可能性が示されています。したがって、いずれかを選択することは、倫理的および政治的な議論を伴う判断となります。