ai-153Đọc toàn bộ đề miễn phí

Nhân Ma Trận Theo Lô (Batched Matrix Multiplication - BMM) từ Gốc

Trong tính toán Attention của Transformer, phép nhân giữa tensor Query Q kích thước (B, H, T, D) và Key KT kích thước (B, H, D, S) là một phép nhân ma trận theo lô đa chiều. Hiểu…

AITrung bình30 phút

Tiến độ của tôi ở bài này

Điểm được lưu vào tài khoản sau khi chấm bài.

Đang tải điểm của bạn…

Kiến thức và chủ đề

tensorbmmmatrix-multiplicationgemmbroadcasting

Kiến thức tiên quyết: matrix-multiplication-fundamentals.

Nội dung đề bài

Mô tả bài toán

Trong tính toán Attention của Transformer, phép nhân giữa tensor Query Q kích thước (B, H, T, D) và Key KT kích thước (B, H, D, S) là một phép nhân ma trận theo lô đa chiều. Hiểu sâu cấu trúc BMM và tính toán vector hóa giúp tối ưu hóa thông lượng tính toán.

Yêu cầu

Viết hàm batched_matmul(A: np.ndarray, B: np.ndarray) -> np.ndarray:

  • Kiểm tra kích thước: A có shape (B, M, K) và B có shape (B, K, N).
  • Nếu số chiều của A hoặc B khác 3, raise ValueError.
  • Nếu kích thước batch B không khớp nhau, hoặc số cột của A khác số hàng của B, raise ValueError.
  • Tính toán kết quả nhân ma trận trên từng batch mà KHÔNG sử dụng toán tử @ hay np.matmul:

Cb = Ab × Bb ∀ b ∈ [0, B-1] (Gợi ý: Có thể dùng np.einsum hoặc tích lũy broadcasting vector hóa).

  • Trả về mảng kết quả kích thước (B, M, N) kiểu float64.

Input

  • Hàm batched_matmul(A, B): Các tham số đầu vào chứa dữ liệu Tensor/mảng NumPy hoặc giá trị siêu tham số tương ứng.

Output

  • Hàm batched_matmul: Trả về kết quả kiểu np.ndarray theo đúng đặc tả kỹ thuật và kích thước quy định.

Ràng buộc

  • Thời gian chạy tối đa: 3000ms.
  • Giới hạn bộ nhớ: 512MB.
  • Dữ liệu đầu vào hợp lệ theo đúng kiểu dữ liệu và miền giá trị được mô tả.

Ví dụ 1

Input

A = np.array([[[1.0, 2.0], [3.0, 4.0]]])
B = np.array([[[5.0, 6.0], [7.0, 8.0]]])
batched_matmul(A, B)

Output

[[[19., 22.],
  [43., 50.]]]

Giải thích

Hàm/lớp được gọi với các tham số mẫu trên và trả về kết quả số học / kích thước tensor tương ứng theo đúng thiết kế.

Ví dụ 2

Input

B, M, K, N = (4, 3, 5, 2)
A = np.random.randn(B, M, K)
B_mat = np.random.randn(B, K, N)
batched_matmul(A, B_mat)

Output

Array shape: (4, 3, 2), dtype=float64

Giải thích

Hàm/lớp được gọi với các tham số mẫu trên và trả về kết quả số học / kích thước tensor tương ứng theo đúng thiết kế.

3 cấp độ gợi ýMở dần khi bạn thật sự cần hỗ trợ.
Phân tích lời giảiGiải thích hướng tư duy và thuật toán.
Code tham khảoDùng để đối chiếu sau khi tự làm.

Gợi ý và lời giải chỉ mở sau khi bạn bấm Nộp bài. Giáo viên và quản trị viên mở được ngay.