ai-106Đọc toàn bộ đề miễn phí

Hàm Mất Mát Khớp Dòng Tuyến Tính (Flow Matching / Rectified Flow - SD3 & Flux.1)

xt = (1 - t) x0 + t x1, t ∈ [0, 1]

AINâng cao45 phút

Tiến độ của tôi ở bài này

Điểm được lưu vào tài khoản sau khi chấm bài.

Đang tải điểm của bạn…

Kiến thức và chủ đề

generative-modelsflow-matchingrectified-flowfluxstable-diffusion-3pytorch

Kiến thức tiên quyết: ddim-deterministic-sampling-step.

Nội dung đề bài

Mục tiêu kiến thức

  • Mô hình Diffusion truyền thống (DDPM) dựa trên quỹ đạo khuếch tán cong (Curved Brownian Motion) khiến phương trình vi phân SDE/ODE bị uốn lượn phức tạp và cần nhiều bước Euler để giải.
  • Khớp dòng (Flow Matching - Lipman et al. 2022, Liu et al. 2022) thay thế hoàn toàn đường cong bằng đoạn thẳng trực tiếp (Straight Line Interpolation / Optimal Transport) nối giữa phân phối nhiễu x0 ∼ N(0, I) và ảnh thật x1:

xt = (1 - t) x0 + t x1, t ∈ [0, 1]

  • Đạo hàm vận tốc tức thời theo thời gian là một hằng số cố định dọc suốt đoạn thẳng:

ut(x1 | x0) = d xtd t = x1 - x0

  • Hàm mất mát hồi quy trường vector (Conditional Flow Matching Loss):

Mạng nơ-ron vθ(xt, t) học cách dự đoán trực tiếp vector vận tốc x1 - x0: LFM(θ) = Et, x0, x1 [ | vθ(xt, t) - (x1 - x0) |2 ]

  • Nhờ quỹ đạo thẳng tắp (Straight trajectories), Flux.1 và Stable Diffusion 3 có thể sinh ảnh chất lượng đỉnh cao chỉ với 4 đến 10 bước Euler!

Yêu cầu

Viết hàm:

def compute_flow_matching_loss(
    model_predicted_velocity: torch.Tensor,
    x_0: torch.Tensor,
    x_1: torch.Tensor
) -> torch.Tensor:
    pass
  • model_predicted_velocity: Tensor vθ(xt, t).
  • x_0: Tensor nhiễu ban đầu ∼ N(0, I).
  • x_1: Tensor ảnh thật mục tiêu.
  • Trả về scalar tensor MSE loss giữa vθ và (x1 - x0).

Input

  • Hàm compute_flow_matching_loss(model_predicted_velocity, x0, x1): Các tham số đầu vào chứa dữ liệu Tensor/mảng NumPy hoặc giá trị siêu tham số tương ứng.

Output

  • Hàm compute_flow_matching_loss: Trả về kết quả kiểu torch.Tensor theo đúng đặc tả kỹ thuật và kích thước quy định.

Ràng buộc

  • Thời gian chạy tối đa: 2000ms.
  • Giới hạn bộ nhớ: 256MB.
  • Dữ liệu đầu vào hợp lệ theo đúng kiểu dữ liệu và miền giá trị được mô tả.

Ví dụ 1

Input

x_0 = torch.tensor([[1.0, 2.0]])
x_1 = torch.tensor([[4.0, 6.0]])
pred_v = torch.tensor([[3.0, 5.0]], requires_grad=True)
loss = compute_flow_matching_loss(pred_v, x_0, x_1)

Output

0.5

Giải thích

Hàm/lớp được gọi với các tham số mẫu trên và trả về kết quả số học / kích thước tensor tương ứng theo đúng thiết kế.

3 cấp độ gợi ýMở dần khi bạn thật sự cần hỗ trợ.
Phân tích lời giảiGiải thích hướng tư duy và thuật toán.
Code tham khảoDùng để đối chiếu sau khi tự làm.

Gợi ý và lời giải chỉ mở sau khi bạn bấm Nộp bài. Giáo viên và quản trị viên mở được ngay.