ai-133Đọc toàn bộ đề miễn phí

Checkpoint Mô Hình – Lưu Và Khôi Phục Trạng Thái Huấn Luyện

Checkpoint phải lưu đủ thông tin để tiếp tục huấn luyện chính xác.

AITrung bình35 phút

Tiến độ của tôi ở bài này

Điểm được lưu vào tài khoản sau khi chấm bài.

Đang tải điểm của bạn…

Kiến thức và chủ đề

mlopscheckpointingpytorchserialization

Kiến thức tiên quyết: gradient-accumulation.

Nội dung đề bài

Mục tiêu kiến thức

Checkpoint phải lưu đủ thông tin để tiếp tục huấn luyện chính xác.

Yêu cầu

def save_checkpoint(
    model: nn.Module,
    optimizer: torch.optim.Optimizer,
    epoch: int,
    loss: float,
    filepath: str
) -> None:
    pass

def load_checkpoint(
    model: nn.Module,
    optimizer: torch.optim.Optimizer,
    filepath: str
) -> tuple[int, float]:
    # Returns (epoch, loss)
    pass

def get_checkpoint_info(filepath: str) -> dict:
    # Returns metadata without loading model
    pass

Input

  • Hàm save_checkpoint(model, optimizer, epoch, loss, filepath): Các tham số đầu vào chứa dữ liệu Tensor/mảng NumPy hoặc giá trị siêu tham số tương ứng.
  • Hàm load_checkpoint(model, optimizer, filepath): Các tham số đầu vào chứa dữ liệu Tensor/mảng NumPy hoặc giá trị siêu tham số tương ứng.
  • Hàm get_checkpoint_info(filepath): Các tham số đầu vào chứa dữ liệu Tensor/mảng NumPy hoặc giá trị siêu tham số tương ứng.

Output

  • Hàm save_checkpoint: Trả về kết quả kiểu Any theo đúng đặc tả kỹ thuật và kích thước quy định.
  • Hàm load_checkpoint: Trả về kết quả kiểu Any theo đúng đặc tả kỹ thuật và kích thước quy định.
  • Hàm get_checkpoint_info: Trả về kết quả kiểu Any theo đúng đặc tả kỹ thuật và kích thước quy định.

Ràng buộc

  • Thời gian chạy tối đa: 5000ms.
  • Giới hạn bộ nhớ: 512MB.
  • Dữ liệu đầu vào hợp lệ theo đúng kiểu dữ liệu và miền giá trị được mô tả.

Ví dụ 1

Input

model = nn.Linear(4, 2)
optim = torch.optim.Adam(model.parameters())
epoch, loss = (5, 0.123)
with tempfile.NamedTemporaryFile(suffix='.pt', delete=False) as f:
    path = f.name
save_checkpoint(model, optim, epoch, loss, path)
model2 = nn.Linear(4, 2)
optim2 = torch.optim.Adam(model2.parameters())
loaded_epoch, loaded_loss = load_checkpoint(model2, optim2, path)

Output

(5, 0.123)

Giải thích

Hàm/lớp được gọi với các tham số mẫu trên và trả về kết quả số học / kích thước tensor tương ứng theo đúng thiết kế.

Ví dụ 2

Input

model = nn.Linear(2, 2)
optim = torch.optim.SGD(model.parameters(), lr=0.01)
with tempfile.NamedTemporaryFile(suffix='.pt', delete=False) as f:
    path = f.name
save_checkpoint(model, optim, 10, 0.5, path)
get_checkpoint_info(path)

Output

{
  'epoch': 10,
  'loss': 0.5,
  'has_model_state': True,
  'has_optimizer_state': True
}

Giải thích

Hàm/lớp được gọi với các tham số mẫu trên và trả về kết quả số học / kích thước tensor tương ứng theo đúng thiết kế.

3 cấp độ gợi ýMở dần khi bạn thật sự cần hỗ trợ.
Phân tích lời giảiGiải thích hướng tư duy và thuật toán.
Code tham khảoDùng để đối chiếu sau khi tự làm.

Gợi ý và lời giải chỉ mở sau khi bạn bấm Nộp bài. Giáo viên và quản trị viên mở được ngay.