CHUYÊN ĐỀ AI THỰC CHIẾN

Bài tập Tinh chỉnh mô hình ngôn ngữ lớn (LLM Fine-Tuning) với LoRA

Thay vì huấn luyện lại toàn bộ mô hình khổng lồ, LoRA chỉ huấn luyện thêm hai ma trận hạng thấp nhỏ bé. Tiết kiệm 99% bộ nhớ GPU mà vẫn đạt chất lượng vượt trội.

bài tập có chấm code

Bài tập theo chuyên đề, có đề bài, ví dụ và starter code riêng.

cơ bản

Củng cố nền tảng và làm quen với kỹ thuật cốt lõi.

trung bình

Kết hợp nhiều bước suy luận để vận dụng kiến thức.

nâng cao

Thử thách tối ưu, cấu trúc dữ liệu và thuật toán chuyên sâu.

Bước 1

Cơ chế Low-Rank Decomposition

Phân tách ma trận biến đổi delta W thành tích hai ma trận B x A với hạng r rất nhỏ.

Bước 2

Tự viết lớp LoRA Linear

Kế thừa nn.Module, đóng băng trọng số gốc weight.requires_grad = False và nhân hệ số scaling alpha/r.

Bước 3

Hợp nhất trọng số (Merge Weights)

Cộng dồn ma trận LoRA vào trọng số chính thức để suy luận không phát sinh độ trễ.

•

Quên chia tỷ lệ alpha/r dẫn đến độ lớn của gradient bị sai lệch khi thay đổi hạng r.

•

Quên đóng băng trọng số ban đầu của mô hình khiến GPU bị quá tải bộ nhớ VRAM.

Trong mỗi mức độ, bài tập được xếp từ dễ nhất đến khó nhất — hãy đi theo số bước.

Nâng cao 5 bài

ai-048Bước 1Nâng cao

Hợp Nhất & Tách Trọng Số LoRA Cho Zero-Latency Inference

W_merged = W₀ + αr (B × A)

ai-148Bước 2Nâng cao

Adapter Tuning – Bottleneck Layer Cho Fine-Tuning Hiệu Quả

Adapter(h) = h + W_up · f(W_down · h)

ai-144Bước 3Nâng cao

Prefix Tuning Và Prompt Tuning – Học Soft Prompt

K' = [K_prefix; K], V' = [V_prefix; V]

ai-143Bước 4Nâng cao

LoRA Từ Đầu – Low-Rank Adaptation Cho Fine-Tuning LLM

LoRA thêm hai ma trận hạng thấp A ∈ R^{r × d_in} và B ∈ R^{d_out × r}:

ai-047Bước 5Nâng cao

Cài Đặt Lớp Tuyến Tính LoRA (Low-Rank Adaptation) Từ Gốc

h = x W₀^T + b + αr (x A^T B^T)

Bài tập Tinh chỉnh mô hình ngôn ngữ lớn (LLM Fine-Tuning) với LoRA

Lộ trình thực hành đề xuất

Cơ chế Low-Rank Decomposition

Tự viết lớp LoRA Linear

Hợp nhất trọng số (Merge Weights)

Lỗi thường gặp & Cách phòng tránh

Danh sách bài tập thực hành (5 bài)

Nâng cao 5 bài

Hợp Nhất & Tách Trọng Số LoRA Cho Zero-Latency Inference

Adapter Tuning – Bottleneck Layer Cho Fine-Tuning Hiệu Quả

Prefix Tuning Và Prompt Tuning – Học Soft Prompt

LoRA Từ Đầu – Low-Rank Adaptation Cho Fine-Tuning LLM

Cài Đặt Lớp Tuyến Tính LoRA (Low-Rank Adaptation) Từ Gốc

Lộ trình thực hành đề xuất

Cơ chế Low-Rank Decomposition

Tự viết lớp LoRA Linear

Hợp nhất trọng số (Merge Weights)

Lỗi thường gặp & Cách phòng tránh

Danh sách bài tập thực hành (5 bài)

Nâng cao 5 bài

Hợp Nhất & Tách Trọng Số LoRA Cho Zero-Latency Inference

Adapter Tuning – Bottleneck Layer Cho Fine-Tuning Hiệu Quả

Prefix Tuning Và Prompt Tuning – Học Soft Prompt

LoRA Từ Đầu – Low-Rank Adaptation Cho Fine-Tuning LLM

Cài Đặt Lớp Tuyến Tính LoRA (Low-Rank Adaptation) Từ Gốc

Chuyên đề liên quan thuộc môn AI

Machine Learning Cổ điển

Huấn luyện mạng Neural & Tối ưu

Transformer & Cơ chế Attention

Tensor & Đại số ma trận