Sözcüksel Yerine Koyma — Bağlam Duyarlı Kelime Değişimi

Basit eşanlamlı yerine koyma, bir kelimeyi bir eşanlamlı sözlükte arar ve bağlamı göz ardı ederek herhangi bir girdiyi seçer. Sözcüksel yerine koyma önce belirli cümledeki kelime anlamını belirsizleştirir ve ardından adayları o bağlama ne kadar iyi uyduklarına göre sıralar — böylece çıktı yalnızca sözcüksel olarak ilişkili değil, bağlamda da tutarlıdır.

Hayır. BERT doldur-maske bir arka uçtur; dağılımsal benzerlikle filtrelenmiş WordNet eşanlamlı kümeleri başka bir tanesidir. Diliniz için bir WordNet'iniz varsa, WordNet tabanlı bir işlem hattı herhangi bir sinirsel model olmadan çalışır. BERT tabanlı işlem hatları, büyük önceden eğitilmiş modellere sahip dillerde daha yüksek kaliteli ikameler üretme eğilimindedir.

Evet, eşanlamlı kaynağının (bir WordNet varyantı, çok dilli gömmeler veya çok dilli maskeli dil modeli) hedef dili kapsadığı sürece. İngilizce eğitilmiş bir modeli veya İngilizce WordNet'i başka bir dile uygulamak zayıf sonuçlar verecektir.

McCarthy ve Navigli'den (2009) standart değerlendirme protokolü, sistem tarafından sıralanan adayları, sıralama 1'de geri çağırma ve genelleştirilmiş ortalama hassasiyet gibi metrikler kullanarak insan tarafından etiketlenmiş altın ikamelerle karşılaştırır. Uygulamalı kullanım için, otomatik akıcılık puanlaması veya çıktı cümlelerinin örnek bir insan incelemesi pratik bir alternatiftir.