ai-181Bước 1Cơ bản
Cơ chế phạt lặp từ trong sinh văn bản (Repetition Penalty Logit Adjustment)
Hiện tượng mô hình ngôn ngữ lặp lại một từ hoặc cụm từ vô tận là một lỗi kinh điển trong sinh văn bản.
CHUYÊN ĐỀ AI THỰC CHIẾN
Bài tập Kỹ thuật sinh văn bản & Giải mã mô hình ngôn ngữ lớn (LLM)
Làm chủ cách thức mô hình AI lựa chọn từ tiếp theo từ phân phối xác suất logits. Tinh chỉnh sự sáng tạo và tính chính xác của phản hồi văn bản.
19
bài tập có chấm code
Bài tập theo chuyên đề, có đề bài, ví dụ và starter code riêng.
2
cơ bản
Củng cố nền tảng và làm quen với kỹ thuật cốt lõi.
9
trung bình
Kết hợp nhiều bước suy luận để vận dụng kiến thức.
8
nâng cao
Thử thách tối ưu, cấu trúc dữ liệu và thuật toán chuyên sâu.
Lộ trình thực hành đề xuất
Bước 1
Greedy Decoding
Chọn từ có xác suất cao nhất tại mỗi bước bằng phép lấy argmax.
Bước 2
Nhiệt độ (Temperature Scaling)
Làm sắc nét hoặc san bằng phân phối xác suất logits bằng phép chia nhiệt độ T.
Bước 3
Top-K & Top-P Sampling
Cắt bỏ đuôi xác suất thấp, chỉ lấy mẫu trong tập K từ tốt nhất hoặc ngưỡng tích lũy P.
Lỗi thường gặp & Cách phòng tránh
•
Đặt nhiệt độ Temperature = 0 gây ra lỗi chia cho 0 trong công thức toán học.
•
Quên chuẩn hóa lại tổng xác suất bằng 1 sau khi lọc Top-K / Top-P.
Danh sách bài tập thực hành (19 bài)
Trong mỗi mức độ, bài tập được xếp từ dễ nhất đến khó nhất — hãy đi theo số bước.
Cơ bản 2 bài
ai-208Bước 2Cơ bản
Tính phân phối xác suất và Greedy Decoding từ Logits (Numerical Softmax)
Trong mô hình ngôn ngữ tự hồi quy (Autoregressive Language Model), đầu ra của tầng cuối cùng (LM Head) là một vector logits thô z ∈ RV với V là kích thước từ điển (vo…
Trung bình 9 bài
Vận dụng
Dùng một kỹ thuật quen thuộc: sắp xếp, tìm kiếm, đếm, ngăn xếp.
ai-178Bước 1Trung bình
Cơ chế lọc Top-K và che mặt nạ Logits trong LLM (Top-K Sampling)
Trong quá trình sinh văn bản của LLM (như GPT, LLaMA), để ngăn mô hình chọn phải các từ vựng vô nghĩa ở đuôi phân phối (tail of distribution), kỹ thuật Top-K Sampling chỉ giữ lại K…
ai-180Bước 2Trung bình
Cơ chế Min-P Sampling loại bỏ đuôi phân phối thích ứng (Min-P Sampling)
Gần đây trong cộng đồng Open LLM, kỹ thuật Min-P Sampling được đánh giá vượt trội so với Top-P và Top-K:
ai-186Bước 3Trung bình
Độ đo Perplexity đánh giá mô hình ngôn ngữ lớn (LLM Perplexity Evaluation)
Trong huấn luyện và đánh giá LLM (như GPT, LLaMA), Perplexity (PPL) là độ đo tiêu chuẩn để đánh giá khả năng dự đoán từ tiếp theo của mô hình:
ai-209Bước 4Trung bình
Lấy mẫu theo nhiệt độ (Temperature-Scaled Sampling)
Tham số nhiệt độ (T > 0) điều khiển độ ngẫu nhiên của văn bản sinh ra bằng cách làm phẳng hoặc làm nhọn phân phối xác suất:
ai-210Bước 5Trung bình
Thuật toán lọc Top-K (Top-K Filtering) cho Ngôn ngữ Tự nhiên
Thuật toán lọc Top-K (Fan et al., 2018) giới hạn không gian lấy mẫu chỉ trong K token có xác suất cao nhất:
Kết hợp kỹ thuật
Phối hợp hai kỹ thuật trong cùng một lời giải.
ai-212Bước 6Trung bình
Kỹ thuật phạt lặp từ (Repetition Penalty) theo kiến trúc CTRL
Các mô hình ngôn ngữ tự hồi quy thường có xu hướng tự khuếch đại xác suất của các từ đã xuất hiện, dẫn đến vòng lặp vô nghĩa (như *"và anh ấy nói và anh ấy nói..."*).
ai-213Bước 7Trung bình
Chiến lược lấy mẫu thích nghi Min-P Sampling
pi = softmax(z)i, ptop = maxj pj
ai-049Bước 8Trung bình
Quản Lý KV-Cache Cho Sinh Văn Bản Tự Hồi Quy (Autoregressive)
Xây dựng lớp KVCache:
ai-051Bước 9Trung bình
Bộ Phạt Lặp Từ (Repetition, Frequency & Presence Penalties)
1. HuggingFace Repetition Penalty (Keskar et al., 2019):
Nâng cao 8 bài
Thử thách
Thuật toán chuyên sâu: quy hoạch động, đồ thị, cây.
ai-211Bước 1Nâng cao
Thuật toán Nucleus Sampling (Top-P Filtering)
Nhược điểm của Top-K là số lượng ứng viên K luôn cố định:
ai-214Bước 2Nâng cao
Thuật toán Beam Search Decoding cho Ngôn ngữ Sinh
Greedy decoding chỉ nhìn thấy một bước tiếp theo nên dễ rơi vào cực tiểu cục bộ (chọn một từ có xác suất cao ở bước 1 nhưng dẫn tới toàn bộ các bước sau có xác suất cực thấp).
ai-050Bước 3Nâng cao
Giải Thuật Lọc Xác Suất Top-K, Top-P (Nucleus) & Temperature
1. Temperature Scaling (T > 0):
ai-085Bước 4Nâng cao
Giải Thuật Tìm Kiếm Chùm (Beam Search) Có Phạt Độ Dài (Wu et al.)
Vì mỗi bước cộng thêm một số âm log P(wt) ≤ 0, câu càng dài thì tổng log xác suất càng âm. Nếu chỉ so sánh điểm thô, mô hình luôn có xu hướng sinh câu cụt ngủn.
Chuyên sâu
Cấu trúc dữ liệu nâng cao và nhiều bước chứng minh.
ai-123Bước 5Nâng cao
Speculative Decoding – Xác Minh Token Từ Draft Model
Speculative decoding tăng tốc inference LLM bằng cách:
ai-179Bước 6Nâng cao
Cơ chế lấy mẫu hạt nhân Nucleus Sampling (Top-P Logits Masking)
Được đề xuất bởi Ari Holtzman et al. (2019), Nucleus (Top-P) Sampling khắc phục nhược điểm của Top-K khi phân phối xác suất thay đổi độ tập trung:
ai-215Bước 7Nâng cao
Cơ chế kiểm định chấp nhận/từ chối Speculative Decoding
Quy trình:
ai-150Bước 8Nâng cao
Đánh Giá LLM – Perplexity, Self-BLEU Và Diversity Metrics
PPL = exp(-1N∑i=1N log P(wi | w<i)) = exp(H)