ai-190Đọc toàn bộ đề miễn phí

Hàm mất mát Smooth L1 và Huber Loss chống ngoại lai (Huber Regression Loss)

Trong bài toán hồi quy tọa độ Bounding Box (Fast R-CNN) và dự đoán giá trị liên tục, hàm mất mát bình phương MSE (L2) rất nhạy cảm với các điểm dữ liệu nhiễu ngoại lai (outliers),…

AICơ bản30 phút

Tiến độ của tôi ở bài này

Điểm được lưu vào tài khoản sau khi chấm bài.

Đang tải điểm của bạn…

Kiến thức và chủ đề

huber-losssmooth-l1robust-regressionbounding-box

Kiến thức tiên quyết: computational-graph-forward-backward.

Nội dung đề bài

Mô tả bài toán

Trong bài toán hồi quy tọa độ Bounding Box (Fast R-CNN) và dự đoán giá trị liên tục, hàm mất mát bình phương MSE (L2) rất nhạy cảm với các điểm dữ liệu nhiễu ngoại lai (outliers), trong khi hàm L1 lại không khả vi tại điểm 0. Hàm Smooth L1 Loss (Huber Loss) dung hòa ưu điểm của cả hai với ngưỡng chuyển tiếp β > 0: L(x, y) = 0.5 (x - y)2 / β & khi |x - y| < β
|x - y| - 0.5 β & khi |x - y| ≥ β
Đạo hàm theo sai số e = x - y: ∂ L∂ x = e / β & khi |e| < β
sign(e) & khi |e| ≥ β
Gradient bị chặn tuyệt đối trong đoạn [-1, 1], triệt tiêu hoàn toàn nguy cơ bùng nổ gradient (Exploding Gradient) khi gặp outliers!

Hãy viết hàm smooth_l1_loss(predictions: np.ndarray, targets: np.ndarray, beta: float = 1.0) -> tuple[float, np.ndarray]:

  • predictions, targets: mảng NumPy cùng shape kiểu float64.
  • beta: ngưỡng chuyển đổi β > 0.
  • Trả về tuple (loss: float, grad: np.ndarray) trong đó loss và grad được tính trung bình trên toàn bộ phần tử.

Input

  • Hàm smooth_l1_loss(predictions, targets, beta): Các tham số đầu vào chứa dữ liệu Tensor/mảng NumPy hoặc giá trị siêu tham số tương ứng.

Output

  • Hàm smooth_l1_loss: Trả về kết quả kiểu Tuple[float, np.ndarray] theo đúng đặc tả kỹ thuật và kích thước quy định.

Ràng buộc

  • Thời gian chạy tối đa: 6000ms.
  • Giới hạn bộ nhớ: 512MB.
  • Dữ liệu đầu vào hợp lệ theo đúng kiểu dữ liệu và miền giá trị được mô tả.

Ví dụ 1

Input

preds = np.array([0.5, 2.0])
targets = np.array([0.0, 0.0])
loss, grad = smooth_l1_loss(preds, targets, beta=1.0)

Output

(0.8125, [0.25, 0.5 ])

Giải thích

Hàm/lớp được gọi với các tham số mẫu trên và trả về kết quả số học / kích thước tensor tương ứng theo đúng thiết kế.

Ví dụ 2

Input

preds = np.array([1000.0])
targets = np.array([0.0])
loss, grad = smooth_l1_loss(preds, targets, beta=1.0)

Output

(999.5, [1.])

Giải thích

Hàm/lớp được gọi với các tham số mẫu trên và trả về kết quả số học / kích thước tensor tương ứng theo đúng thiết kế.

3 cấp độ gợi ýMở dần khi bạn thật sự cần hỗ trợ.
Phân tích lời giảiGiải thích hướng tư duy và thuật toán.
Code tham khảoDùng để đối chiếu sau khi tự làm.

Gợi ý và lời giải chỉ mở sau khi bạn bấm Nộp bài. Giáo viên và quản trị viên mở được ngay.