Обнаружение гендерных предубеждений в НЛП — статистические методы и методы на основе вложений

Обнаружение гендерных предубеждений в НЛП — это семейство статистических методов и методов на основе вложений, используемых для измерения стереотипизации, репрезентативной несбалансированности и профессиональных предубеждений в текстовых корпусах и языковых моделях. Основанные на эталонах, установленных Caliskan et al. (2017) с помощью теста ассоциаций вложений слов (WEAT) и Zhao et al. (2018) с помощью набора данных WinoBias, эти методы дают количественные доказательства гендерных предубеждений, а не качественные впечатления. Они широко применяются в исследованиях этичного ИИ, медиаанализе и аудите справедливости систем машинного обучения.