Reranking Với Cross-Encoder – Chấm Điểm Lại Kết Quả Retrieval

Mục tiêu kiến thức

RAG 2 giai đoạn:

• Bi-encoder (fast): retrieve top-K candidates bằng cosine similarity
• Cross-encoder (slow): rerank top-K bằng cách đánh giá từng cặp (query, passage)

Cross-encoder nhận [CLS] query [SEP] passage [SEP] và xuất ra một điểm relevance scalar.

Yêu cầu

class CrossEncoderReranker:
    def __init__(self, input_dim: int, hidden_dim: int = 64):
        # Simple 2-layer MLP: input_dim -> hidden -> 1
        pass
    def score(self, query_emb: torch.Tensor, doc_emb: torch.Tensor) -> torch.Tensor:
        # Concatenate [query; doc; query-doc; query*doc] -> MLP -> scalar score
        pass
    def rerank(self, query_emb: torch.Tensor, candidate_embs: torch.Tensor) -> torch.Tensor:
        # Returns scores [N_candidates] for all candidates
        pass

Ràng buộc

• Thời gian chạy tối đa: 5000ms.
• Giới hạn bộ nhớ: 512MB.
• Dữ liệu đầu vào hợp lệ theo đúng kiểu dữ liệu và miền giá trị được mô tả.