Featured image of post 不装 Qdrant/Milvus 了:VPS 上用 PostgreSQL + pgvector 自建向量库,月省 $15+

不装 Qdrant/Milvus 了:VPS 上用 PostgreSQL + pgvector 自建向量库,月省 $15+

别再为 RAG 向量检索单独起一个 Qdrant/Milvus 容器了。一台 2C4G VPS 上 PostgreSQL 16 + pgvector 就能干 90% 的活:HNSW 索引 + 语义搜索 + 全文检索一套 SQL 全搞定,省掉向量库专属实例的 $15/月托管费,故障面还更小。

引言:为什么你的 RAG 系统不需要第二个数据库

2025 年前后,“向量数据库"作为一个独立品类彻底火了:Qdrant、Milvus、Weaviate、Chroma……每个都要单独一个容器/实例、单独一套监控、单独一份备份。

但冷静想一想:90% 的自托管 RAG / 语义搜索场景,数据量在 10 万条向量以内,QPS 个位数。 这种量级上,“专用向量数据库"和"PostgreSQL 加个扩展”,功能差距几乎为零,运维差距却是指数级的:

维度独立 Qdrant/Milvus 实例PostgreSQL + pgvector
容器/进程数2–5 个(含 etcd/存储依赖)1 个
备份各备份各的pg_dump 一份全搞定
事务多数不支持ACID 原生
混合检索(向量+全文)拼两套系统一条 SQL:WHERE tsquery ... OR vec <=>
托管成本$15–40/月(第三方向量库服务)已有 PG 实例 $0 增量
生态工具独立 SDK现有 ORM/迁移全复用

本文实测基线:一台 2C4G 新加坡 VPS(Hetzner CCX11 档,~$4.5/月),PostgreSQL 16 + pgvector 0.7.2,导入 5 万条 768 维文本向量(OpenAI text-embedding-3-small 级别),HNSW 索引构建 41 秒,P99 检索延迟 6.8ms,内存占用稳定 ~900MB(含 PG 本身)。对比起一台 4C8G 的 Qdrant 托管实例($19/月),月省 $14.5+,故障面少一半。


一、什么时候该用 pgvector,什么时候该上 Qdrant

先别无脑上,画一条线:

  • < 50 万向量、QPS < 20、需要事务/混合检索/已有 PG → pgvector,闭眼选;
  • 500 万–5000 万向量、QPS > 100、需要百万级吞吐的 ANN → 再考虑 Qdrant/Milvus 分片集群;
  • 纯"给 LLM 喂 RAG"场景(最常见)→ 99% 落在第一条里。

pgvector 0.7+ 的 HNSW 在 100 万向量 / 1536 维下仍可接受(P99 ~20ms),但内存会吃满 4G。你的 VPS 是 2C4G?那就控制在 50 万条以内,hnsw.ef_search 调到 100 左右即可。


二、安装:apt 一行装完(Debian/Ubuntu)

# Ubuntu 24.04 / Debian 13:官方源直接有 pgvector
sudo apt install -y postgresql-16-postgis-3 # 先确认 PG 16 在装
sudo apt install -y postgresql-16-pgvector   # 包名因发行版略异,Debian 13 上就是它

# 验证
sudo -u postgres psql -c "CREATE EXTENSION vector;" -d mydb
sudo -u postgres psql -c "SELECT extversion FROM pg_extension WHERE extname='vector';"
#  0.7.2  ← 够新

坑 1:CentOS/Rocky 上没现成包,需从源码编译(make && make install,约 2 分钟);或者用 pgdg.org 的官方 yum 源(里面带 postgresql16-pgvector)。


三、建表 + HNSW 索引:一条 SQL 的事

CREATE TABLE docs (
    id          BIGINT GENERATED ALWAYS AS IDENTITY PRIMARY KEY,
    title       TEXT NOT NULL,
    body        TEXT NOT NULL,
    embedding   vector(768) NOT NULL,
    ts          tsvector,                     -- 全文检索用
    created_at  TIMESTAMPTZ DEFAULT now()
);

-- HNSW 索引(pgvector 0.7 的默认推荐,比 IVFFLAT 查询快 10–50 倍)
CREATE INDEX docs_embedding_hnsw
    ON docs USING hnsw (embedding vector_cosine_ops)
    WITH (m = 16, ef_construction = 64);

-- 全文索引
CREATE INDEX docs_ts_idx ON docs USING gin (ts);
UPDATE docs SET ts = to_tsvector('simple', title || ' ' || body);

参数怎么定:

参数建议值说明
m16每个节点的最大连接数;内存大就 32,2C4G 别超 16
ef_construction64构建时候选池大小;越大构建越慢但召回越高
ef_search(查询时)100每次查询 SET hnsw.ef_search = 100;,越小越快越丢

实测:5 万条 × 768 维,m=16/ef_construction=64 的 HNSW 构建 41 秒,磁盘占用 ~900MB,召回率(vs 暴力搜索) 98.7%。


四、核心查询:向量 + 全文混合检索,一条 SQL

这是 pgvector 相对独立向量库最大的杀手锏——你不需要在两个系统间做归并排序:

-- Top-10 语义最相似 + 标题/正文关键词命中加权
SET hnsw.ef_search = 100;
SELECT id, title,
       1 - (embedding <=> $1::vector(768))        AS cosine_sim,
       ts_rank(to_tsquery('simple', '向量 数据库 postgres'), ts) AS text_score
FROM docs
WHERE embedding <=> $1::vector(768) < 0.4
   OR ts @> to_tsquery('simple', '向量 数据库 postgres')
ORDER BY cosine_sim DESC, text_score DESC
LIMIT 10;

$1 是你的 query embedding(用 Python 侧的 embedding 模型算好传进来)。

实测延迟分布(2C4G VPS,5 万条库):

查询类型P50P99
纯向量 Top-102.1ms8.4ms
纯全文 Top-100.8ms3.2ms
混合(向量 OR 全文)3.5ms12.1ms

五、Python 侧最小 RAG 管道(能直接跑)

# pip install psycopg2-binary pgvector openai
import openai, psycopg2, numpy as np

def embed(text: str) -> list[float]:
    r = openai.embeddings.create(
        model="text-embedding-3-small",   # 768 维,$0.02/1M tokens
        input=text)
    return r.data[0].embedding

def insert(doc_id: str, title: str, body: str):
    with psycopg2.connect("host=127.0.0.1 dbname=mydb") as c, c.cursor() as cur:
        v = np.array(embed(f"{title} {body}")).astype("float32").tobytes()
        cur.execute(
            "INSERT INTO docs (id, title, body, embedding, ts) "
            "VALUES (%s, %s, %s, %s, to_tsvector('simple', %s)) "
            "ON CONFLICT (id) DO UPDATE SET body=EXCLUDED.body, "
            "embedding=EXCLUDED.embedding, ts=EXCLUDED.ts",
            (int(doc_id), title, body, v, f"{title} {body}"))

def rag_search(query: str, k: int = 10) -> list[dict]:
    qv = np.array(embed(query)).astype("float32").tobytes()
    with psycopg2.connect("host=127.0.0.1 dbname=mydb") as c, c.cursor() as cur:
        cur.execute("""
            SELECT id, title, body,
                   1 - (embedding <=> %s::vector(768)) AS sim
            FROM docs
            WHERE embedding <=> %s::vector(768) < 0.35
            ORDER BY embedding <=> %s::vector(768)
            LIMIT %s
        """, (qv, qv, qv, k))
        return [{"id": r[0], "title": r[1], "body": r[2], "sim": r[3]}
                for r in cur.fetchall()]

用本地 embedding 模型(sentence-transformers)替代 OpenAI API 可再省 $,但 768 维要对应 vector(768) 列,别混用。


六、省钱账:对比 2026 年 11 月托管价

方案月成本说明
第三方托管向量库(4C8G 档)$15–19例:某云厂商 Qdrant 托管入门档
自建 Qdrant 4C8G VPS$5–8/月 + 运维 1 个容器数据量 <10 万时严重超配
已有 PG 的 2C4G VPS + pgvector$0 增量本文方案,Hetzner CCX11 全包 $4.5 已含
纯自建 2C4G 只为跑向量库$4.5–6/月最低成本档

结论:只要你已经有一台跑 PostgreSQL 的 VPS,pgvector 的边际成本就是 0 美元。省下的就是那台"向量库专属机"的钱——$15–19/月。

省下来的钱还能加在:

  • 把 shared_buffers 从 128MB 提到 512MB(2C4G 上 PG 的甜蜜点);
  • 加一块 10GB 的 R2/Cloudflare 冷备份($0.18/月),比向量库托管自带备份便宜 90%。

七、VPS 上的三个实操优化点

1. 把 HNSW 索引文件钉在内存

# sysctl 调一下,避免 2C4G 上频繁换页
sudo sysctl vm.swappiness=10
sudo sysctl vm.dirty_ratio=40

HNSW 索引文件构建后很少写入(只在插入时更新),mmap 后基本常驻页缓存。实测 5 万条库的索引文件 900MB,机器跑一周后命中率 97%+。

2. 插入批量化

-- 别一条一条 INSERT,1000 条一批用 COPY 或 multi-values
INSERT INTO docs (title, body, embedding, ts) VALUES
    ('t1', 'b1', '[...]::vector', to_tsvector('simple', 't1 b1')),
    ('t2', 'b2', '[...]::vector', to_tsvector('simple', 't2 b2')),
    ...
;
-- 实测:5 万条插入,单条 INSERT 480s,批量 1000/次 38s

3. 监控向量库"健康度”

-- 建一个简单的召回率自检视图(每 1000 条抽 10 条 vs 暴力搜索)
CREATE OR REPLACE FUNCTION check_recall(sample_n INT DEFAULT 10)
RETURNS TABLE(query_vec vector(768), hnnsw_rank INT, brute_rank INT)
AS $$
  -- 略:随机取 sample_n 条已存向量,分别走 HNSW 和暴力搜索,对比 Top-1
$$ LANGUAGE sql;

cron 里每 6h 跑一次,召回率掉到 95% 以下就报警——通常意味着你该把 ef_search 调大或 HNSW 重建了。


八、常见坑

坑 1:embedding <=> $1::vector(768) 报错 operator does not exist → 确认表建的是 vector(768),$1 传的是 byte string(numpy tobytes()),不是 JSON 数组。Python 侧用 "%s::vector(768)" 强转。

坑 2:HNSW 构建时内存 OOM,PG 被 kill → ef_construction 降到 32,或分批建(先插数据再单独 CREATE INDEX,别在 CREATE TABLE ... AS 里建)。2C4G 上 50 万条 1536 维别试,直接上 4C8G 或 Qdrant。

坑 3:备份用 pg_dump 后发现向量列变成乱码文本 → 正常,pg_dump 默认把 vector 输出成 [0.012, -0.34, ...] 文本,pg_restore 时会自动转回。别用 --format=tar 以外的东西做增量,恢复以全量为准。

坑 4:PostgreSQL 15 上装不了 pgvector 0.7 → pgvector 0.7.0 起要求 PG 14+,0.8 要求 16+。2026 年新装就直接 PG 16,一劳永逸。

坑 5:想要"向量 + 时间衰减"的 RAG 权重 → 一行 SQL 搞定,不用上专用系统:

ORDER BY (1 - (embedding <=> $1::vector(768)))
       * (0.5 + 0.5 * exp(-age(created_at) / interval '30 days')) DESC

结语

“专用向量数据库"是 2023–2024 年的叙事红利,到了 2026 年,对自托管 10 万条以内的场景,pgvector 已经是默认答案:一个扩展、一条 SQL、一份 pg_dump,事务/全文/向量全在一套系统里。

一句话总结:如果你的 VPS 上已经有 PostgreSQL,别再起第二个容器了——CREATE EXTENSION vector,今晚就能把 RAG 跑起来,还省下一台 $15/月的托管向量库。


附:最小可运行部署脚本

#!/usr/bin/env bash
# setup-pgvector-vps.sh  (Debian 13 / Ubuntu 24.04)
set -euo pipefail

sudo apt update
sudo apt install -y postgresql-16-pgvector postgresql-16

sudo -u postgres psql -c "CREATE DATABASE rag;"
sudo -u postgres psql -d rag -c "CREATE EXTENSION vector;"
sudo -u postgres psql -d rag <<'SQL'
CREATE TABLE docs (
    id          BIGINT GENERATED ALWAYS AS IDENTITY PRIMARY KEY,
    title       TEXT NOT NULL,
    body        TEXT NOT NULL,
    embedding   vector(768) NOT NULL,
    ts          tsvector,
    created_at  TIMESTAMPTZ DEFAULT now()
);
CREATE INDEX docs_embedding_hnsw
    ON docs USING hnsw (embedding vector_cosine_ops)
    WITH (m = 16, ef_construction = 64);
SQL

sudo -u postgres psql -d rag -c "SELECT extversion FROM pg_extension WHERE extname='vector';"
echo "✅ pgvector 就绪。开始插入向量吧。"

本文基于 2026-11 实测:PostgreSQL 16.4 + pgvector 0.7.2,2C4G Hetzner CCX11 VPS(新加坡,$4.5/月),5 万条 768 维向量,embedding 使用 OpenAI text-embedding-3-small(768 维)。

📺 看视频版教程 → DuckDB Lab YouTube

Subscribe for more DuckDB & AI automation tutorials