Giá trị điểm khởi tạo


#1

Anh chị cho em hỏi làm sao để xác định các giá trị khởi tạo trong thuat toan Gradient Descent? Em cảm ơn


#2

Nếu bạn hỏi về việc khởi tạo trọng số cho mô hình thì là: các tham số được khởi tạo ngẫu nhiên theo phân phối Gaussian/phân phối đều. Một số phương pháp khởi tạo phổ biến là: Glorot/Xavier initializer, He initializer.