Erkennung von Gender Bias in NLP — Statistische und Embedding-basierte Methoden

Gender Bias Erkennung in NLP ist eine Familie von statistischen und Embedding-basierten Methoden, die zur Messung von Stereotypisierung, repräsentativer Unausgewogenheit und beruflicher Voreingenommenheit in Textkorpora und Sprachmodellen verwendet werden. Basierend auf Benchmarks, die von Caliskan et al. (2017) mit dem Word Embedding Association Test (WEAT) und Zhao et al. (2018) mit dem WinoBias-Datensatz etabliert wurden, liefern diese Methoden quantitative Beweise für Gender Bias und keine qualitativen Eindrücke. Sie werden in der ethischen KI-Forschung, Medienanalyse und Fairness-Prüfung von maschinellen Lernsystemen weit verbreitet angewendet.