Định Cỡ RAM Tìm Kiếm Lai Hybrid Vector + Từ Khóa (Arroy & HNSW 768d/1536d)

Bài Toán Dung Lượng Vector Nhúng & Đột Phá Lượng Tử Hóa (Quantization) (MeiliSizer Guide)

Một vector 1536 chiều định dạng float32 gốc chiếm tới 6.14 KB mỗi bản ghi (hơn 7.2 GB cho 1 triệu sản phẩm khi tính cả cạnh đồ thị HNSW). Khi rút gọn chiều Matryoshka xuống 768d và bật tính năng lượng tử hóa nhị phân (binaryQuantized) trên Meilisearch v1.11+ Arroy, phần bộ nhớ vector giảm chỉ còn ~0.95–1.2 GB trên mỗi triệu bản ghi mà vẫn giữ trên 96% độ chính xác khi trộn cùng điểm BM25.

Cấu Hình Hybrid Search & Lượng Tử Hóa Nhị Phân Trên Meilisearch v1.11+

// PATCH /indexes/products/settings — Kết hợp Từ khóa + Vector Nén Nhị Phân
{
  "embedders": {
    "catalog_semantic": {
      "source": "openAi",
      "model": "text-embedding-3-small",
      "dimensions": 768,
      "binaryQuantized": true,
      "documentTemplate": "{{doc.title}} - {{doc.category}} - {{doc.summary}}"
    }
  }
}
// Truy vấn với semanticRatio: 0.45 (55% khớp từ khóa + 45% hiểu ý định)

Bảng Định Cỡ RAM MeiliSizer Cho HYBRID-VECTOR-HNSW

Checklist Triển Khai MeiliSizer: HYBRID-VECTOR-HNSW

• Hạ số chiều vector text-embedding-3-small từ 1536 xuống 768 chiều để giảm một nửa dung lượng RAM mà sai số dưới 1%.
• Bật binaryQuantized: true cho kho dữ liệu trên 1 triệu mục — bộ xếp hạng từ khóa BM25 sẽ bù đắp độ chính xác tuyệt đối ở nhóm đầu.
• Viết documentTemplate ngắn gọn dưới 250 token để tăng tốc độ nhúng và tiết kiệm phí gọi API tạo vector.
• Chọn máy chủ VDS nhân vật lý riêng (UltaHost VDS hoặc Vultr HF) có tập lệnh AVX2/AVX-512 để tính khoảng cách vector dưới 15ms.

Nạp Thông Số Vào Ma Trận MeiliSizer →