train/eval và no_grad với Dropout

Mục tiêu kiến thức

Phân biệt behavior train/eval của Dropout và tắt gradient khi chỉ đánh giá.

Mô tả bài toán

Đây là bài số 391 trong tầng PyTorch deep learning thực hành. Bài dùng thư viện Module.train, Module.eval, torch.no_grad, Dropout trên dữ liệu nhỏ, cố định và chạy CPU; mục tiêu là hiểu workflow chứ không bắt học viên tự viết lại thư viện.

Yêu cầu

Chạy cùng model hai lần ở train và eval, trả biết output có bằng nhau không, eval có requires_grad không.

def dropout_train_eval(X, dropout_probability):

Ràng buộc

Gọi model.train cho hai lần đầu, model.eval cho eval và dùng torch.no_grad.