ai-213Đọc toàn bộ đề miễn phí

Chiến lược lấy mẫu thích nghi Min-P Sampling

pi = softmax(z)i, ptop = maxj pj

AITrung bình30 phút

Tiến độ của tôi ở bài này

Điểm được lưu vào tài khoản sau khi chấm bài.

Đang tải điểm của bạn…

Kiến thức và chủ đề

min-psamplingadaptive-truncationlanguage-model

Kiến thức tiên quyết: top-p-nucleus-filtering-sampling.

Nội dung đề bài

Mô tả bài toán

Min-P Sampling là một phương pháp lọc hiện đại đang dần thay thế Top-P trong cộng đồng mã nguồn mở. Thay vì tích lũy xác suất, Min-P tính ngưỡng động trực tiếp theo xác suất của token đứng đầu:

pi = softmax(z)i, ptop = maxj pj pthreshold = ptop × pmin

Mọi token có xác suất pi < pthreshold sẽ bị loại bỏ bằng cách gán logit thành filter_value (-∞).

  • Ví dụ: nếu pmin = 0.05 và token đầu bảng có ptop = 0.8, thì ngưỡng là 0.8 × 0.05 = 0.04. Bất kỳ token nào có xác suất nhỏ hơn 4% đều bị loại.
  • Nếu token đầu bảng chỉ đạt ptop = 0.1 (mô hình không chắc chắn), ngưỡng chỉ là 0.005, cho phép nhiều token cạnh tranh tự nhiên.

Hãy viết hàm min_p_filtering(logits: np.ndarray, min_p: float = 0.05, filter_value: float = -float('inf')) -> np.ndarray:

  • Kiểm tra 0.0 ≤ min_p ≤ 1.0. Nếu vi phạm, raise ValueError.
  • logits: mảng 1D không rỗng.
  • Trả về bản sao mảng logits sau khi lọc theo Min-P.

Input

  • Hàm min_p_filtering(logits, min_p, filter_value): Các tham số đầu vào chứa dữ liệu Tensor/mảng NumPy hoặc giá trị siêu tham số tương ứng.

Output

  • Hàm min_p_filtering: Trả về kết quả kiểu np.ndarray theo đúng đặc tả kỹ thuật và kích thước quy định.

Ràng buộc

  • Thời gian chạy tối đa: 6000ms.
  • Giới hạn bộ nhớ: 512MB.
  • Dữ liệu đầu vào hợp lệ theo đúng kiểu dữ liệu và miền giá trị được mô tả.

Ví dụ 1

Input

logits = np.log(np.array([0.8, 0.15, 0.05]))
filtered = min_p_filtering(logits, min_p=0.1)

Output

[-0.2231, -1.8971,    -inf]

Giải thích

Hàm/lớp được gọi với các tham số mẫu trên và trả về kết quả số học / kích thước tensor tương ứng theo đúng thiết kế.

Ví dụ 2

Input

logits = np.array([5.0, 2.0, -1.0])
filtered = min_p_filtering(logits, min_p=0.0)

Output

[ 5.,  2., -1.]

Giải thích

Hàm/lớp được gọi với các tham số mẫu trên và trả về kết quả số học / kích thước tensor tương ứng theo đúng thiết kế.

3 cấp độ gợi ýMở dần khi bạn thật sự cần hỗ trợ.
Phân tích lời giảiGiải thích hướng tư duy và thuật toán.
Code tham khảoDùng để đối chiếu sau khi tự làm.

Gợi ý và lời giải chỉ mở sau khi bạn bấm Nộp bài. Giáo viên và quản trị viên mở được ngay.