Word2Vec tự giám sát

Word2Vec là một mô hình mạng nơ-ron nông được giới thiệu bởi Mikolov và cộng sự. (2013) học các biểu diễn vector dày đặc của từ từ các kho ngữ liệu văn bản lớn không được gán nhãn bằng cách sử dụng các mục tiêu tự giám sát. Bằng cách huấn luyện một mô hình để dự đoán các từ ngữ cảnh xung quanh (Skip-gram) hoặc một từ mục tiêu từ ngữ cảnh của nó (CBOW), nó nắm bắt được sự tương đồng ngữ nghĩa và cú pháp phong phú trong không gian vector liên tục mà không cần bất kỳ chú thích thủ công nào.