Deteksjon av kjønnsbias i NLP — Statistiske metoder og metoder basert på innleiringer

Deteksjon av kjønnsbias i NLP er en familie av statistiske metoder og metoder basert på innleiringer som brukes til å måle stereotypier, representasjonsmessig ubalanse og yrkesmessig bias i tekstkorpus og språkmodeller. Basert på referansepunkter etablert av Caliskan et al. (2017) med Word Embedding Association Test (WEAT) og Zhao et al. (2018) med WinoBias-datasettet, produserer disse metodene kvantitative bevis på kjønnsbias snarere enn kvalitative inntrykk. De anvendes bredt innen etisk AI-forskning, medieanalyse og rettferdighetsrevisjon av maskinlæringssystemer.