Tích Chập Nhân Quả Giãn Nở (Causal Dilated Conv1D) WaveNet

Mục tiêu kiến thức

• Trong sinh âm thanh và chuỗi thời gian, mô hình WaveNet (DeepMind 2016) giải quyết mâu thuẫn giữa trường tiếp nhận (Receptive Field) và tính nhân quả (Causality):
• Tính nhân quả (Causality): Đầu ra tại thời điểm t chỉ được phép phụ thuộc vào các bước thời gian t, t-1, t-2, …, tuyệt đối KHÔNG được nhìn vào tương lai t+1, t+2.
• Độ giãn nở (Dilation d): Bỏ cách các bước lấy mẫu (ví dụ d = 1, 2, 4, 8, 16).

Trường tiếp nhận mở rộng theo hàm số mũ 2^L theo số tầng, cho phép bao phủ hàng vạn mẫu âm thanh mà không cần tính tuần tự chậm chạp như RNN!

• Đệm nhân quả (Causal Padding):

Với kernel K và độ giãn d, ta đệm thêm (K - 1) · d số 0 vào DUY NHẤT BÊN TRÁI của chuỗi âm thanh, và không đệm bên phải.

Yêu cầu

Xây dựng lớp CausalDilatedConv1d(torch.nn.Module):

class CausalDilatedConv1d(nn.Module):
    def __init__(self, in_channels: int, out_channels: int, kernel_size: int = 2, dilation: int = 1):
        pass

    def forward(self, x: torch.Tensor) -> torch.Tensor:
        # x shape: (B, in_channels, seq_len)
        # returns shape: (B, out_channels, seq_len)
        pass

Ràng buộc

• Thời gian chạy tối đa: 2000ms.
• Giới hạn bộ nhớ: 256MB.
• Dữ liệu đầu vào hợp lệ theo đúng kiểu dữ liệu và miền giá trị được mô tả.