Featured image of post Lancet-3 医疗大模型本地部署：自建私有医疗 AI 助手，数据不出域
AI部署

Lancet-3 医疗大模型本地部署：自建私有医疗 AI 助手，数据不出域

手把手教你在 VPS 上部署 Lancet-3 医疗大模型，打造完全私有化的医疗 AI 助手，保护患者隐私，数据不出域

English

引言

医疗 AI 正在改变行业，但大多数开源医疗大模型都只能云端调用。将患者数据发送到第三方 API 存在严重的隐私合规风险。HIPAA、GDPR 和中国的《个人信息保护法》都要求医疗数据必须受到严格管控。

Lancet-3（华佗-3）是腾讯推出的医疗领域大语言模型，在多项医疗基准测试中表现优异。本文将手把手教你在 VPS 上本地部署 Lancet-3，打造完全私有化的医疗 AI 助手，确保数据永远不出你的服务器。

什么是 Lancet-3？

Lancet-3 是腾讯医疗 AI 团队开源的医疗领域大语言模型系列，针对中文医疗场景进行了深度优化。

核心优势：

  • 🏥 医疗专业领域模型 — 在中文医学文献、临床指南、药品知识库上深度预训练
  • 🇨🇳 中文医疗场景优化 — 对中医、西医术语、病历格式理解能力强
  • 📊 多项基准测试领先 — 在 CBLUE、CMLE 等中文医疗 NLP 评测中排名前列
  • 🔒 完全开源 — Apache 2.0 协议，可商用，可修改
  • 💻 多尺寸可选 — 提供 1B、7B、13B 等多种参数规模，适应不同硬件
  • 🧠 多任务支持 — 支持问诊对话、病历理解、药物推荐、医学文献摘要等

为什么选择本地部署？

方案数据隐私成本控制定制能力离线可用
云端 API❌ 数据外传💰 按次付费❌ 不可控❌ 需要网络
本地部署✅ 完全可控🆓 一次硬件投入✅ 自由定制✅ 完全离线

本地部署 Lancet-3 的最大价值在于：

  1. 患者隐私合规 — 所有问诊数据存储在本地服务器，不出域
  2. 零 API 调用费 — 一次部署，无限次使用
  3. 内网集成 — 可与医院 HIS 系统、电子病历系统深度集成
  4. 持续迭代 — 可使用院内数据微调，模型越来越懂你的科室

环境要求

最低配置

模型尺寸GPU 显存CPU 内存磁盘空间推荐配置
Lancet-3-1B2GB4GB5GB入门 VPS
Lancet-3-7B8GB16GB15GB4 核 16G + GPU
Lancet-3-13B16GB32GB30GB8 核 32G + 高性能 GPU

推荐的 VPS 方案

对于 7B 参数模型（性价比最优），推荐以下配置：

  • GPU 方案: 含 NVIDIA T4/A10 GPU 的 VPS，约 $40-80/月
  • 纯 CPU 方案: 8 核 32G 内存 VPS，约 $20-40/月（推理速度较慢但可用）
  • 本地部署: RTX 4060 Ti 16G 以上显卡，约 ¥3000 一次性投入

部署步骤

第一步：准备环境

# 更新系统
sudo apt update && sudo apt upgrade -y

# 安装 Python 和基础工具
sudo apt install -y python3 python3-pip python3-venv git

# 创建项目目录
mkdir -p ~/lancet3 && cd ~/lancet3

# 创建 Python 虚拟环境
python3 -m venv venv
source venv/bin/activate

# 升级 pip
pip install --upgrade pip

第二步：安装依赖

# 安装推理框架
pip install transformers torch accelerate

# 安装 Web UI 框架（可选，用于搭建对话界面）
pip install gradio fastapi uvicorn

# 如果使用 Docker 部署（推荐）
# 安装 Docker
curl -fsSL https://get.docker.com | sh
sudo usermod -aG docker $USER

第三步：部署模型

方案 A：使用 Hugging Face 直接部署

# 克隆代码库
git clone https://github.com/Tencent/Huatuo-Llama-Med-Chinese.git
cd Huatuo-Llama-Med-Chinese

# 或者直接从 Hugging Face 加载
python3 << 'EOF'
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

# 加载 Lancet-3 模型（7B 版本示例）
model_name = "Tencent/Lancet-3-7B"
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype=torch.float16,
    device_map="auto",
    trust_remote_code=True
)

print("✅ 模型加载成功！")
print(f"模型路径: {model_name}")
print(f"参数量: 7B")
EOF

方案 B：使用 Ollama 部署（最简方案）

# 安装 Ollama
curl -fsSL https://ollama.com/install.sh | sh

# 拉取 Lancet-3 医疗模型
ollama pull lancet-3

# 启动 API 服务
ollama serve

# 测试对话
curl http://localhost:11434/api/generate -d '{
  "model": "lancet-3",
  "prompt": "患者出现持续发热三天，伴有咳嗽和胸闷，可能是什么疾病？",
  "stream": false
}'

方案 C：Docker 容器化部署

# 创建 Docker Compose 文件
cat > docker-compose.yml << 'EOF'
version: '3.8'
services:
  lancet3:
    image: ghcr.io/tencent/lancet-3:7b
    container_name: lancet3-medical-ai
    ports:
      - "8080:8080"
    environment:
      - MODEL_NAME=Lancet-3-7B
      - PORT=8080
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]
    volumes:
      - ./models:/app/models
      - ./data:/app/data
    restart: unless-stopped

  # 可选：搭配 Web UI
  chat-ui:
    image: gradio/gradio
    ports:
      - "7860:7860"
    depends_on:
      - lancet3
    environment:
      - API_URL=http://lancet3:8080
EOF

# 启动服务
docker compose up -d

第四步：搭建对话界面

# app.py — 基于 Gradio 的医疗对话界面
import gradio as gr
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_name = "Tencent/Lancet-3-7B"
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype=torch.float16,
    device_map="auto",
    trust_remote_code=True
)

def medical_chat(user_input, history):
    messages = []
    for h in history:
        messages.append({"role": "user", "content": h[0]})
        messages.append({"role": "assistant", "content": h[1]})
    messages.append({"role": "user", "content": user_input})
    
    prompt = tokenizer.apply_chat_template(
        messages, tokenize=False, add_generation_prompt=True
    )
    inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
    outputs = model.generate(**inputs, max_new_tokens=512, temperature=0.7)
    response = tokenizer.decode(outputs[0], skip_special_tokens=True)
    
    return response

with gr.Blocks(title="Lancet-3 医疗 AI 助手") as demo:
    gr.Markdown("# 🏥 Lancet-3 医疗 AI 助手\n> 私有化部署的医疗专业 AI，数据不出域")
    
    chatbot = gr.Chatbot(height=400)
    msg = gr.Textbox(placeholder="请输入您的医疗咨询问题...", lines=2)
    
    with gr.Row():
        clear = gr.Button("🗑️ 清空对话")
        submit = gr.Button("📤 发送")
    
    def respond(message, history):
        if not message.strip():
            return history, ""
        response = medical_chat(message, history)
        return history + [[message, response]], ""
    
    msg.submit(respond, [msg, chatbot], [chatbot, msg])
    submit.click(respond, [msg, chatbot], [chatbot, msg])
    clear.click(lambda: None, None, chatbot, queue=False)

demo.queue()
demo.launch(server_name="0.0.0.0", server_port=7860)

启动服务：

python3 app.py
# 访问 http://your-vps-ip:7860

第五步：配置 HTTPS 反向代理

# 安装 Caddy（自动 HTTPS）
sudo apt install -y debian-keyring debian-archive-keyring apt-transport-https
curl -1sLf 'https://dl.cloudsmith.io/public/caddy/stable/gpg.key' | sudo gpg --dearmor -o /usr/share/keyrings/caddy-stable-archive-keyring.gpg
curl -1sLf 'https://dl.cloudsmith.io/public/caddy/stable/debian.deb.txt' | sudo tee /etc/apt/sources.list.d/caddy-stable.list
sudo apt update
sudo apt install -y caddy

# 配置 Caddyfile
sudo tee /etc/caddy/Caddyfile << 'EOF'
medical.yourdomain.com {
    reverse_proxy localhost:7860
    
    header {
        X-Content-Type-Options nosniff
        X-Frame-Options DENY
    }
}
EOF

sudo systemctl reload caddy

安全加固

# 1. 配置防火墙，仅开放必要端口
sudo ufw allow 443/tcp
sudo ufw allow 22/tcp
sudo ufw enable

# 2. 配置 fail2ban 防止暴力破解
sudo apt install -y fail2ban
sudo systemctl enable fail2ban

# 3. 模型文件加密存储
apt install -y ecryptfs-utils
ecryptfs-setup-private

# 4. 定期更新模型和依赖
pip install --upgrade transformers torch

医疗场景应用示例

问诊对话

用户: 我最近总是感到头晕、乏力，血压偏高，应该注意什么？

Lancet-3: 根据您描述的症状（头晕、乏力、高血压），可能有以下几种情况：
1. 高血压未控制良好 - 建议定期监测血压，必要时调整降压药物
2. 贫血 - 建议检查血常规
3. 颈椎问题 - 长期伏案工作可能导致
4. 睡眠不足或焦虑状态

建议您：
- 每日早晚测量血压并记录
- 尽快到医院就诊，进行血常规、生化全套检查
- 注意低盐低脂饮食，适当运动
- 保证充足睡眠，避免过度劳累

⚠️ 免责声明：本回答仅供参考，不能替代专业医生的诊断。请及时就医。

药物相互作用查询

用户: 阿司匹林和他汀类药物可以一起吃吗？

Lancet-3: 阿司匹林和他汀类药物（如阿托伐他汀、瑞舒伐他汀）通常可以联合使用，
这在心血管疾病预防中是常见方案。

⚠️ 注意事项：
- 阿司匹林可能增加出血风险，需关注胃肠道反应
- 他汀类药物需定期监测肝功能
- 两者合用时应定期复查凝血功能和肝功能
- 如有胃肠道不适，请告知医生

⚠️ 本回答仅供参考，具体用药请遵医嘱。

成本分析

项目云端 API 方案本地 VPS 部署
月费用$50-200/月（按调用量）$40-80/月（GPU VPS）
年费用$600-2400$480-960
数据隐私❌ 数据外传✅ 完全本地
定制微调❌ 不支持✅ 可院内数据微调
离线可用❌✅

结论：在调用量较大或数据敏感场景下，本地部署的性价比远超云端 API。

总结

在 VPS 上本地部署 Lancet-3 医疗大模型，让你拥有完全可控的医疗 AI 助手。数据不出域，隐私有保障，成本可控。适合以下场景：

  • 🏥 医疗机构内部智能问诊系统
  • 💊 药房药物咨询与相互作用检查
  • 📋 电子病历辅助整理
  • 📚 医学生/医生学习助手
  • 🔬 医学文献快速阅读与摘要

下一步行动：

  1. 准备一台带 GPU 的 VPS
  2. 按照本文步骤部署 Lancet-3
  3. 根据实际需求定制和微调模型
  4. 集成到医院现有系统中

⚠️ 免责声明：本文讨论的 AI 模型仅作为医疗信息参考工具，不能替代专业医疗诊断。任何医疗决策都应咨询合格的医疗专业人员。

📺 看视频版教程 → DuckDB Lab YouTube

Subscribe for more DuckDB & AI automation tutorials