Prefix Tuning Và Prompt Tuning – Học Soft Prompt

Mục tiêu kiến thức

Prefix Tuning thêm prefix_len trainable token vào đầu sequence: K' = [K_prefix; K], V' = [V_prefix; V]

Toàn bộ model đóng băng; chỉ K_prefix và V_prefix được train.

Yêu cầu

class PrefixTuningLayer(nn.Module):
    def __init__(self, prefix_len: int, d_model: int, num_heads: int):
        # Trainable prefix K and V: shape [prefix_len, d_model]
        pass
    def forward(self, K: torch.Tensor, V: torch.Tensor) -> tuple[torch.Tensor, torch.Tensor]:
        # Prepend prefix to K, V along sequence dim
        # K: [B, T, d], returns K': [B, T + prefix_len, d]
        pass
    def get_prefix_param_count(self) -> int:
        pass

Ràng buộc

• Thời gian chạy tối đa: 5000ms.
• Giới hạn bộ nhớ: 512MB.
• Dữ liệu đầu vào hợp lệ theo đúng kiểu dữ liệu và miền giá trị được mô tả.