Nefret Söylemi Tespiti — Zararlı Metinlerin Otomatik Sınıflandırılması
Automated Hate Speech Detection · Ayrıca şöyle bilinir: offensive language detection, toxic content detection, Nefret Söylemi Tespiti
Nefret söylemi tespiti, sosyal medya ve çevrimiçi platformlardaki nefret dolu, saldırgan veya zararlı metinleri otomatik olarak tanımlayan bir doğal dil işleme görevidir. Bu görev, Davidson ve arkadaşları (2017) tarafından, gerçek nefret söylemini yalnızca saldırgan dilden ayırmanın neden tek bir toksisite puanı yerine zorlu ve farklı bir sınıflandırma problemi olduğunu göstererek keskinleştirilmiştir.
Tam yöntemi oku
Bu bölümü okumak için ücretsiz hesapla giriş yapın.
Yöntem haritası
İlişkili yöntemlerin komşuluğu — keşfetmek için bir düğüm seçin.
Ne zaman kullanılır
Sosyal medya veya çevrimiçi platformlardan metin verileriniz ve bir sınıflandırıcıyı eğitmek veya ince ayar yapmak için etiketlenmiş bir veri kümeniz olduğunda nefret söylemi tespitini kullanın — yaklaşık 100 etiketlenmiş belge pratik bir minimumdur. Kesitsel veya boylamsal metinler üzerindeki sınıflandırma ve açıklayıcı hedeflere uyar. Nadir sınıf dengesizliğini bir veri olarak kabul edin ve kullanıcı tarafından oluşturulan içerikle çalışmadan önce bir etik ve gizlilik incelemesi yapın. Metin verisi veya etiket yoksa, görev yürütülemez.
Güçlü yönler & sınırlılıklar
- Hiçbir insan moderasyon ekibinin manuel olarak ulaşamayacağı bir ölçekte zararlı içeriği ortaya çıkarır.
- Davidson ve arkadaşlarının (2017) çok sınıflı çerçevesini takip ederek, gerçek nefret söylemini yalnızca saldırgan dilden ayırır.
- Özellik tabanlı makine öğreniminden bağlamı yakalayan ince ayarlı dönüştürücü modellere kadar çeşitli yaklaşımlara uyum sağlar.
- Etiketlenmiş bir veri kümesi gerektirir ve nefret söylemini etiketlemek maliyetli ve özneldir.
- Nefret söylemi nadirdir, bu nedenle sınıf dengesizliği, önemli vakaları gözden kaçırırken saf bir modelin doğru görünmesine neden olabilir.
- Nefret söylemi tanımları kültürler, platformlar ve denetleyiciler arasında değişir, bu da bir modelin ne kadar iyi aktarılabileceğini sınırlar.
SSS
Nefret söylemi ile saldırgan dil arasındaki fark nedir?
Bunlar farklı sınıflardır. Saldırgan dil kaba veya küfürlüdür ancak mutlaka bir gruba yönelik değildir, oysa nefret söylemi kimlik temelinde insanlara saldırır veya onları aşağılar. Davidson ve arkadaşları (2017), ikisini karıştırmanın büyük bir hata kaynağı olduğunu gösterdi, bu yüzden görev genellikle çok sınıflı bir problem olarak çerçevelenir.
Ne kadar etiketlenmiş veriye ihtiyacım var?
Bir sınıflandırıcıyı eğitmek veya ince ayar yapmak için pratik minimum yaklaşık 100 etiketlenmiş belgedir. Daha fazlası daha iyidir ve gerçek nefret söylemi nadir olduğu için, modelin onu göz ardı etmek yerine öğrenmesi için genellikle azınlık sınıfından yeterli örneğe ihtiyacınız vardır.
Sınıf dengesizliği neden bu kadar önemli bir endişe kaynağıdır?
Nefret söylemi nadirdir, bu nedenle çoğu gönderi ne nefret dolu ne de saldırgandır. Bir model, zararlı içeriğin neredeyse tamamını gözden kaçırırken, yalnızca çoğunluk sınıfını tahmin ederek genel olarak yüksek doğruluk puanı alabilir. Yalnızca doğruluğu değil, nadir sınıftaki kesinlik ve geri çağırmayı değerlendirin.
Etik ve gizliliği göz önünde bulundurmam gerekiyor mu?
Evet. Görev, kullanıcı tarafından oluşturulan içeriği işler ve insanların konuşmaları hakkında önemli kararlar verir, bu nedenle dağıtımdan önce bir etik ve gizlilik incelemesi yapılmalı, ayrıca denetleyici öznelliği ve modelin hatalarının kullanıcıları nasıl etkilediği konusunda dikkatli olunmalıdır.
Kaynaklar
- Davidson, T., Warmsley, D., Macy, M. & Weber, I. (2017). Automated Hate Speech Detection and the Problem of Offensive Language. ICWSM, 11(1), 512-515. DOI: 10.1609/icwsm.v11i1.14955 ↗
- Fortuna, P. & Nunes, S. (2018). A Survey on Automatic Detection of Hate Speech in Text. ACM Computing Surveys, 51(4), 1-30. DOI: 10.1145/3232676 ↗
Bu sayfayı kaynak gösterin
ScholarGate. (2026, June 1). Automated Hate Speech Detection. ScholarGate. https://scholargate.app/tr/text-mining/hate-speech-detection
Hangi yöntem?
Bu yöntemi en yakın akrabalarının yanına koyup yan yana okuyun — kütüphane kitapları masaya serer; seçim sizindir.
- BERT Gömme VektörleriMetin madenciliği↔ karşılaştır
- Sahte Haber TespitiMetin madenciliği↔ karşılaştır
- Duygu AnaliziMetin madenciliği↔ karşılaştır
- Metin SınıflandırmasıMetin madenciliği↔ karşılaştır