Rilevamento del Bias di Genere in NLP — Metodi Statistici e Basati su Embedding

Il rilevamento del bias di genere in NLP è una famiglia di metodi statistici e basati su embedding utilizzati per misurare stereotipi, squilibri rappresentativi e bias occupazionali in corpora testuali e modelli linguistici. Basati su benchmark stabiliti da Caliskan et al. (2017) con il Word Embedding Association Test (WEAT) e Zhao et al. (2018) con il dataset WinoBias, questi metodi producono prove quantitative del bias di genere piuttosto che impressioni qualitative. Sono ampiamente applicati nella ricerca sull'IA etica, nell'analisi dei media e nell'auditing di equità dei sistemi di machine learning.