Language model sử dụng PhoBert

nlp

#1

Em xin chào mọi người ạ. Em có thử tìm hiểu qua về PhoBert. Hiện tại em thấy model RoBerta có thể dự đoán từ bị “mask” trong câu. Em cũng đã thử làm theo ví dụ của PhoBert trên github nhưng kết quả không tốt lắm

Mọi người đã có ai sử dụng PhoBert để dự đoán từ bị “mask” trong tiếng việt chưa ạ cho em xin chút kinh nghiệm với ạ. Em đnag muốn sử dụng nó như Language Model. Em cảm ơn ạ.