ai-262Bước 1Cơ bản
Tích vô hướng hai feature
Tính tích vô hướng của hai vector hai chiều.
CHUYÊN ĐỀ AI THỰC CHIẾN
Bài tập Tensor & Đại số ma trận cho AI trong NumPy và PyTorch
Dữ liệu AI biểu diễn hoàn toàn dưới dạng tensor. Làm chủ các quy tắc tính toán tensor, trục axis, bộ nhớ liên tục contiguous để tăng tốc code gấp hàng trăm lần.
29
bài tập có chấm code
Bài tập theo chuyên đề, có đề bài, ví dụ và starter code riêng.
20
cơ bản
Củng cố nền tảng và làm quen với kỹ thuật cốt lõi.
8
trung bình
Kết hợp nhiều bước suy luận để vận dụng kiến thức.
1
nâng cao
Thử thách tối ưu, cấu trúc dữ liệu và thuật toán chuyên sâu.
Lộ trình thực hành đề xuất
Bước 1
Bộ nhớ & Strides
Hiểu cơ chế lưu trữ của mảng trên RAM, phân biệt contiguous và non-contiguous.
Bước 2
Broadcasting đa chiều
Quy tắc dóng hàng chiều dài từ phải sang trái và tự động mở rộng tensor.
Bước 3
Khoảng cách & Độ tương đồng
Cài đặt khoảng cách Euclidean, khoảng cách Manhattan và Cosine Similarity chuẩn hóa.
Bước 4
Thao tác trục (Axis & Keepdims)
Tính tổng sum, trung bình mean, chuẩn norm dọc theo các trục mà không làm méo shape.
Lỗi thường gặp & Cách phòng tránh
•
Bỏ quên tham số keepdims=True khi tính chuẩn norm dọc theo trục khiến phép chia broadcasting bị sai chiều.
•
Không xử lý trường hợp chia cho 0 khi vector có độ dài bằng 0 (cần thêm epsilon nhỏ 1e-9).
Danh sách bài tập thực hành (29 bài)
Trong mỗi mức độ, bài tập được xếp từ dễ nhất đến khó nhất — hãy đi theo số bước.
Cơ bản 20 bài
Khởi động
Nhập xuất, biến, rẽ nhánh và các bước suy luận đơn giản.
ai-263Bước 2Cơ bản
Khoảng cách hai điểm dữ liệu
Tính khoảng cách Euclid giữa hai điểm trong mặt phẳng.
ai-264Bước 3Cơ bản
Chuẩn hóa Min Max
Chuẩn hóa một giá trị về khoảng từ 0 đến 1 theo giá trị nhỏ nhất và lớn nhất.
ai-275Bước 4Cơ bản
Mã hóa one hot
Mã hóa một nhãn số thành vector one-hot có số chiều cho trước.
ai-279Bước 5Cơ bản
Mẫu gần nhất một chiều
Tìm khoảng cách nhỏ nhất từ một điểm truy vấn đến các mẫu một chiều.
ai-297Bước 6Cơ bản
Tích vô hướng hai vector n chiều
Tích vô hướng là phép tính xuất hiện nhiều nhất trong học sâu: mỗi nơ-ron tuyến tính, mỗi bước attention đều là một tích vô hướng. Nắm chắc nó giúp hiểu chi phí tính toán của mô hì…
ai-311Bước 7Cơ bản
Hiệu hai vector đặc trưng
Hiệu hai vector là bước đầu của mọi phép so sánh: khoảng cách Euclid, chuẩn gradient và vector chuyển dịch đều bắt đầu từ hiệu này.
Làm quen
Vòng lặp, mảng một chiều, chuỗi và hàm ở mức cơ bản.
ai-312Bước 8Cơ bản
Tổng bình phương các thành phần
Tổng bình phương là bình phương chuẩn L2, và cũng là tử số của phương sai khi chưa chia. Nó xuất hiện trong hàm mất mát bình phương nhỏ nhất và trong kiểm tra độ lớn gradient.
ai-001Bước 9Cơ bản
Phân tích Kiến trúc Bộ nhớ, Strides và Flags của ndarray
Trong các hệ thống tính toán hiệu năng cao và mạng nơ-ron sâu, việc truy cập bộ nhớ không liên tục (cache miss do sai strides) làm giảm hiệu suất xử lý từ 5 đến 10 lần. Trước khi t…
ai-152Bước 10Cơ bản
Tái Cấu Trúc Kích Thước Tensor (Reshape, Squeeze, Unsqueeze)
Khi chuyển giao dữ liệu giữa các khối trong mô hình GPT, tensor thường xuyên phải thay đổi số chiều: ví dụ gộp batch và sequence (B, T, D) -> (B*T, D) để đưa vào hàm mất mát Cross-…
ai-287Bước 11Cơ bản
Chỉ số logit lớn nhất (argmax)
argmax là bước cuối của mọi bài phân loại: sau khi mô hình cho ra vector logits, ta lấy lớp có điểm cao nhất. Khi có nhiều logit bằng nhau, quy ước chọn lớp có chỉ số nhỏ nhất.
ai-295Bước 12Cơ bản
Chuẩn L1 của một vector đặc trưng
Chuẩn L1 là tổng độ lớn các thành phần, còn gọi là khoảng cách Manhattan từ gốc. Nó xuất hiện trong regularization Lasso vì thúc đẩy nghiệm thưa.
ai-313Bước 13Cơ bản
Bình phương khoảng cách Euclid
Khi so sánh khoảng cách để tìm hàng xóm gần nhất, ta chỉ cần bình phương khoảng cách vì căn bậc hai là hàm tăng đơn điệu — bỏ căn giúp tiết kiệm tính toán mà không đổi thứ tự.
ai-249Bước 14Cơ bản
Khởi Tạo và Kiểm Tra Thuộc Tính Cơ Bản Của PyTorch Tensor
Trong hệ sinh thái Học sâu (Deep Learning) và PyTorch, Tensor là cấu trúc dữ liệu cốt lõi tương tự mảng đa chiều trong NumPy nhưng hỗ trợ tính toán tăng tốc trên phần cứng và tự độ…
Vững nền tảng
Bài tổng hợp nhẹ, sẵn sàng bước sang mức trung bình.
ai-284Bước 15Cơ bản
Chuẩn hoá L2 một vector đặc trưng
Chuẩn hoá L2 đưa vector về độ dài 1. Trong tìm kiếm vector và embedding, chuẩn hoá L2 khiến tích vô hướng trở thành độ tương đồng cosine nên so sánh nhanh hơn.
ai-286Bước 16Cơ bản
Khoảng cách Manhattan giữa hai điểm dữ liệu
Khoảng cách Manhattan cộng độ lệch theo từng chiều, nên rẻ hơn khoảng cách Euclid (không cần căn) và rất hợp khi đặc trưng có đơn vị rời rạc.
ai-296Bước 17Cơ bản
Chuẩn L2 của một vector đặc trưng
Chuẩn L2 là độ dài Euclid của vector. Nó dùng để đo độ lớn gradient, kiểm soát norm của embedding và là mẫu số của độ tương đồng cosine.
ai-298Bước 18Cơ bản
Khoảng cách Euclid giữa hai điểm ba chiều
Khoảng cách Euclid là thước đo mặc định khi so sánh hai điểm trong không gian đặc trưng nhiều chiều, ví dụ để tìm hàng xóm gần nhất trong KNN.
ai-285Bước 19Cơ bản
Độ tương đồng cosine giữa hai vector đặc trưng
Độ tương đồng cosine đo góc giữa hai vector, không phụ thuộc độ dài. Đây là thước đo chuẩn trong tìm kiếm vector, hệ gợi ý và so khớp embedding.
ai-009Bước 20Cơ bản
Khởi tạo, Thao tác Shape và Kiểm soát Device trên PyTorch Tensor
PyTorch là framework Deep Learning tiêu chuẩn công nghiệp. Trước khi xây dựng mạng nơ-ron, kỹ sư phải thành thạo việc tạo tensor chuẩn xác trên CPU, chuyển đổi shape và kiểm soát b…
Trung bình 8 bài
Vận dụng
Dùng một kỹ thuật quen thuộc: sắp xếp, tìm kiếm, đếm, ngăn xếp.
ai-002Bước 1Trung bình
Phân biệt Tuyệt đối giữa View và Copy trong NumPy
Trong huấn luyện mạng nơ-ron, việc chỉnh sửa dữ liệu trên một lát cắt (slice) có thể vô tình làm hỏng tập dữ liệu gốc nếu đó là một View. Ngược lại, việc lạm dụng .copy() sẽ làm tr…
ai-003Bước 2Trung bình
Chuẩn hóa Ma trận bằng Broadcasting không vòng lặp
Trong tiền xử lý ảnh và tính toán embedding của mô hình học sâu, hàng triệu vector phải được chuẩn hóa về độ dài đơn vị. Việc dùng vòng lặp for trong Python khiến thời gian xử lý c…
ai-004Bước 3Trung bình
Tính toán Cosine Similarity Ma trận với Ổn định Số học
Trong hệ thống RAG và Vector Database (như Qdrant), thuật toán tìm kiếm tương đồng ngữ nghĩa cần so sánh hàng nghìn vector embedding đồng thời. Nếu phép tính bị chia cho 0 (do vect…
ai-154Bước 4Trung bình
Thao Tác Tensor với Ký Hiệu Einstein (torch.einsum) trong LLM
Trong mã nguồn của các kiến trúc LLM hiện đại (như LLaMA, GPT, Mistral), torch.einsum là công cụ ngắn gọn và mạnh mẽ nhất để biểu diễn các phép co tensor đa chiều (tensor contracti…
Kết hợp kỹ thuật
Phối hợp hai kỹ thuật trong cùng một lời giải.
ai-156Bước 5Trung bình
Ma Trận Khoảng Cách Euclidean Đôi Một Không Dùng Vòng Lặp
Trong các thuật toán phân cụm (K-Means), tìm kiếm láng giềng gần nhất (k-NN) và đo lường khoảng cách embedding giữa các token, việc tính toán khoảng cách Euclidean giữa N vector và…
ai-151Bước 6Trung bình
Chỉ Mục và Mặt Nạ Boolean Trên Tensor Không Gây Đột Biến
Trong các mô hình sinh ngôn ngữ lớn, việc lọc các token bất hợp lệ, token vượt ngưỡng xác suất hoặc các token đệm (<pad>) đòi hỏi kỹ thuật lập chỉ mục bằng mặt nạ Boolean (Boolean…
ai-379Bước 7Trung bình
Đổi NumPy array thành torch Tensor
Hiểu Tensor có shape và dtype rõ ràng trước khi đưa vào neural network.
ai-153Bước 8Trung bình
Nhân Ma Trận Theo Lô (Batched Matrix Multiplication - BMM) từ Gốc
Trong tính toán Attention của Transformer, phép nhân giữa tensor Query Q kích thước (B, H, T, D) và Key KT kích thước (B, H, D, S) là một phép nhân ma trận theo lô đa chiều. Hiểu…
Nâng cao 1 bài
ai-155Bước 1Nâng cao
Hoán Vị Trục (Permute) và Tính Liên Tục (Contiguous) của Tensor
Trong cài đặt Multi-Head Attention của PyTorch, sau khi tính toán các đầu chú ý, tensor có shape (B, H, T, D). Để chuẩn bị đưa qua tầng Linear chiếu ra (proj), ta phải hoán vị chiề…