Xây dựng động cơ tự động tính đạo hàm vô hướng (Micrograd Value Engine)
Theo kiến trúc động cơ Autograd kinh điển của Andrej Karpathy (Micrograd), mỗi nút trong đồ thị tính toán được đại diện bởi một lớp Value lưu trữ giá trị vô hướng (data), gradient…
Tiến độ của tôi ở bài này
Điểm được lưu vào tài khoản sau khi chấm bài.
Đang tải điểm của bạn…
Kiến thức và chủ đề
Kiến thức tiên quyết: computational-graph-forward-backward.
Nội dung đề bài
Mô tả bài toán
Theo kiến trúc động cơ Autograd kinh điển của Andrej Karpathy (Micrograd), mỗi nút trong đồ thị tính toán được đại diện bởi một lớp Value lưu trữ giá trị vô hướng (data), gradient tích lũy (grad), các nút cha (_prev), và một hàm closure lan truyền ngược _backward().
Hãy hoàn thiện lớp ScalarValue hỗ trợ:
__init__(self, data: float, _children=()): khởi tạodata = float(data),grad = 0.0.- Phép cộng
__add__(self, other): hỗ trợ cảScalarValue + ScalarValuevàScalarValue + float/int. - Phép nhân
__mul__(self, other): hỗ trợ cảScalarValue * ScalarValuevàScalarValue * float/int. - Hàm kích hoạt
relu(self): tính y = max(0, x) và lan truyền đạo hàm ∂ L∂ x = ∂ L∂ y · Ix > 0. - Phương thức
backward(self): sắp xếp đồ thị theo thứ tự topo (topological sort), đặt gradient của nút gốc bằng 1.0 (self.grad = 1.0), sau đó duyệt ngược từng nút để gọi_backward().
Input
- Lớp
ScalarValue(data,_children): Khởi tạo đối tượng với các tham số, trọng số hoặc cấu hình tương ứng.
Output
- Các phương thức của
ScalarValue: Trả về kết quả tính toán hoặc cập nhật trạng thái nội bộ của đối tượng.
Ràng buộc
- Thời gian chạy tối đa: 6000ms.
- Giới hạn bộ nhớ: 512MB.
- Dữ liệu đầu vào hợp lệ theo đúng kiểu dữ liệu và miền giá trị được mô tả.
Ví dụ 1
Input
a = ScalarValue(2.0)
b = ScalarValue(-3.0)
c = ScalarValue(10.0)
d = a * b + c
L = d.relu()
L.backward()Output
{
'L.data': 4,
'a.grad': -12
}Giải thích
Hàm/lớp được gọi với các tham số mẫu trên và trả về kết quả số học / kích thước tensor tương ứng theo đúng thiết kế.
Gợi ý và lời giải chỉ mở sau khi bạn bấm Nộp bài. Giáo viên và quản trị viên mở được ngay.
Góp ý & báo lỗi bài tập
Đề bài chưa rõ, test có vấn đề hay bạn có ý tưởng giúp bài tốt hơn? Gửi cho đội ngũ AI Empire nhé — mỗi góp ý đều được đọc.