[12/02/2020 21:05] Cho em hỏi có ai cài được thuật toán BERT . . .

#1

Nguồn post: https://www.facebook.com/257768141347267_1115130998944306
Cho em hỏi có ai cài được thuật toán BERT đạt độ chính xác >80% như trong báo cáo của google nói chưa (link: https://arxiv.org/pdf/1810.04805.pdf) E chạy được với epoch =600 (hơn nữa thì chạy quá lâu, vượt quá thời gian cho free của colab). Mà độ chính xác khoảng 70% thôi. Thầy yêu cầu phải chỉnh đến khi nào đạt >80% mới thôi. Có ai giúp em với, đuối quá.

#2

làm tiếng Việt hay tiếng Anh thế, tiếng Việt thì dùng phoBERT tốt hơn

#3

nếu bạn test trên dataset của bạn thì bạn thử fine tunning đi sẽ có kqua tốt hơn.

#4

Fine tuned, tăng lr xem, với lại có checkpoint thì load lên train tiếp