python-106Đọc toàn bộ đề miễn phí

Động cơ Gradient Boosted Decision Stump cho bài toán Hồi quy

Cài đặt lớp GradientBoostingRegressorScratch(n_estimators=10, learning_rate=0.1):

PythonNâng cao45 phút

Tiến độ của tôi ở bài này

Điểm được lưu vào tài khoản sau khi chấm bài.

Đang tải điểm của bạn…

Kiến thức và chủ đề

machine learninggradient boostingregressionensemble

Kiến thức tiên quyết: decision stump, mse, pseudo residuals.

Nội dung đề bài

Mục tiêu kiến thức

  • Hiểu kiến trúc Gradient Boosting cho hàm mất mát sai số bình phương trung bình (MSE).
  • Tính toán thặng dư âm của gradient (Negative Gradient / Pseudo-Residuals): ri = yi - yi.
  • Áp dụng hệ số suy giảm (Learning Rate Shrinkage) η để kiểm soát tốc độ hội tụ và giảm overfitting.

Mô tả bài toán

Cài đặt lớp GradientBoostingRegressorScratch(n_estimators=10, learning_rate=0.1):

  • Mỗi cây thành phần là một Decision Stump (cây độ sâu 1):
  • Phân tách theo (j, t): dự đoán giá trị trung bình thặng dư cleft cho X[:, j] ≤ t và cright cho X[:, j] > t.
  • Tìm (j, t) tối thiểu hóa hàm mất mát MSE trên nhãn thặng dư r.
  • fit(self, X: np.ndarray, y: np.ndarray) -> self:
  • Kiểm tra hợp lệ: X 2D, y 1D, cùng số dòng, n > 0. Nếu sai, raise ValueError.
  • Khởi tạo giá trị dự đoán ban đầu: F0(x) = y = mean(y).
  • Với m = 1, 2, …, n_estimators:
  • Tính thặng dư: r = y - Fm-1(X).
  • Huấn luyện Decision Stump hm(X) trên dữ liệu (X, r).
  • Cập nhật mô hình: Fm(X) = Fm-1(X) + learning_rate × hm(X).
  • Lưu lại stump hm.
  • predict(self, X: np.ndarray) -> np.ndarray:
  • Tính dự đoán: y = F0 + learning_rate × ∑m=1M hm(X).
  • Trả về mảng 1D np.ndarray kiểu float.

Input

  • Các tham số truyền vào hàm/lớp GradientBoostingRegressorScratch hoặc dữ liệu đầu vào theo định dạng mô tả.

Output

  • Kết quả trả về của hàm/lớp GradientBoostingRegressorScratch hoặc dữ liệu in ra màn hình theo đúng đặc tả.

Ràng buộc

  • Thời gian chạy tối đa: 1500ms.
  • Giới hạn bộ nhớ: 256MB.
  • Dữ liệu đầu vào tuân thủ đúng kiểu dữ liệu và miền giá trị được mô tả.

Ví dụ 1

Input

GradientBoostingRegressorScratch(X=[[1.0], [2.0], [3.0], [10.0], [11.0], [12.0]], y=[1.0, 1.0, 1.0, 10.0, 10.0, 10.0], n_estimators=20, learning_rate=0.2, X_test=[[2.0], [11.0]])

Output

[1.0, 10.0]

Giải thích

Hàm được gọi với các tham số mẫu trên và trả về kết quả chính xác theo yêu cầu.

Ví dụ 2

Input

GradientBoostingRegressorScratch(X=[[1.0]], y=[1.0, 2.0])

Output

True

Giải thích

Hàm được gọi với bộ tham số thứ hai và trả về kết quả tương ứng theo thiết kế.

3 cấp độ gợi ýMở dần khi bạn thật sự cần hỗ trợ.
Phân tích lời giảiGiải thích hướng tư duy và thuật toán.
Code tham khảoDùng để đối chiếu sau khi tự làm.

Gợi ý và lời giải chỉ mở sau khi bạn bấm Nộp bài. Giáo viên và quản trị viên mở được ngay.