Bộ Phạt Lặp Từ (Repetition, Frequency & Presence Penalties)

Mục tiêu kiến thức

• Các LLM thường gặp lỗi suy thoái sinh chu kỳ (repetitive looping loops): lặp đi lặp lại một cụm từ.
• Hai trường phái điều chỉnh Logits phổ biến nhất:
• HuggingFace Repetition Penalty (Keskar et al., 2019):

Với mỗi token i đã từng xuất hiện trong đoạn văn đã sinh (count > 0):

• Nếu z_i > 0: Giảm bớt logit dương: z'_i = z_iθ (với θ ≥ 1.0).
• Nếu z_i ≤ 0: Tăng độ phạt âm: z'_i = z_i × θ.

(Lưu ý: Nhân với θ khi z_i < 0 làm cho logit CÀNG ÂM HƠN, làm giảm xác suất!).

• OpenAI Frequency & Presence Penalties:

z'_i = z_i - (count_i × α_freq) - (1 × α_pres) Trong đó α_freq phạt tỷ lệ thuận với số lần lặp, còn α_pres phạt cố định 1 lần duy nhất cho bất kỳ token nào đã từng xuất hiện ít nhất một lần.

Yêu cầu

Viết hàm:

def apply_logit_penalties(
    logits: torch.Tensor,
    generated_tokens: list[int],
    repetition_penalty: float = 1.0,
    presence_penalty: float = 0.0,
    frequency_penalty: float = 0.0
) -> torch.Tensor:
    pass

• logits: Tensor 1 chiều kích thước (vocab_size,).
• generated_tokens: Danh sách các token ID đã sinh trước đó.
• Thứ tự áp dụng: Áp dụng repetition_penalty trước (nếu θ ≠ 1.0), sau đó trừ tiếp frequency_penalty và presence_penalty.
• Trả về tensor logits mới cùng kích thước.

Ràng buộc

• Thời gian chạy tối đa: 2000ms.
• Giới hạn bộ nhớ: 256MB.
• Dữ liệu đầu vào hợp lệ theo đúng kiểu dữ liệu và miền giá trị được mô tả.