Виявлення гендерної упередженості в НЛП — статистичні та вбудовані методи

Виявлення гендерної упередженості в НЛП — це сукупність статистичних та вбудованих методів, що використовуються для вимірювання стереотипів, дисбалансу представництва та професійної упередженості в текстових корпусах і мовних моделях. Ґрунтуючись на еталонах, встановлених Caliskan et al. (2017) за допомогою тесту асоціацій вбудовування слів (WEAT) та Zhao et al. (2018) за допомогою набору даних WinoBias, ці методи надають кількісні докази гендерної упередженості, а не якісні враження. Вони широко застосовуються в дослідженнях етичного ШІ, аналізі медіа та аудиті справедливості систем машинного навчання.