Kiểm tra gradient giải tích bằng sai số tương đối (CS231n Gradient Checking)

Mô tả bài toán

Trong khóa học Stanford CS231n nổi tiếng, Andrej Karpathy đã nhấn mạnh tầm quan trọng của việc kiểm tra tính đúng đắn của Gradient giải tích (Analytic Gradient) so với Gradient số trị (Numerical Gradient). Công thức sai số tương đối chuẩn mực (Relative Error): rel_error = |g_analytic - g_num|_∞max(|g_analytic|_∞ + |g_num|_∞, ε) hoặc tính trên từng phần tử: r_i = |g_{analytic, i} - g_{num, i}|max(|g_{analytic, i}| + |g_{num, i}|, ε) với ε = 10^-8 để tránh chia cho 0. Quy tắc đánh giá chuẩn CS231n:

• rel_error < 10^-7: Gradient hoàn hảo ("PASSED").
• 10^-7 ≤ rel_error < 10^-4: Chấp nhận được ("CAUTION").
• rel_error ≥ 10^-4: Cảnh báo lỗi toán học hoặc lỗi lập trình ("FAILED").

Hãy viết hàm cs231n_grad_check(grad_analytic: np.ndarray, grad_numerical: np.ndarray, eps: float = 1e-8) -> tuple[float, str]:

• Kiểm tra 2 mảng có cùng shape. Nếu khác shape, ném ValueError.
• Tính mảng sai số tương đối từng phần tử: r_i = |a_i - n_i|max(|a_i| + |n_i|, ε).
• Lấy sai số lớn nhất: max_rel_error = max(r_i).
• Phân loại trạng thái thành "PASSED", "CAUTION", hoặc "FAILED".
• Trả về (max_rel_error: float, status: str).

Ràng buộc

• Thời gian chạy tối đa: 6000ms.
• Giới hạn bộ nhớ: 512MB.
• Dữ liệu đầu vào hợp lệ theo đúng kiểu dữ liệu và miền giá trị được mô tả.