intermediate ⏱ 12 分钟 llm

本地部署开源大模型:Ollama + DeepSeek 完全指南

用 Ollama 在本地跑 DeepSeek R2 7B/32B,数据不出门,月成本 < ¥50。

本地 LLM 部署

## 为什么本地部署?
- **数据安全**:客户数据不出门
- **成本低**:月成本 < ¥50(电费)vs ¥500+ 云端 API
- **无审查**:自己掌控
- **离线可用**:断网也能用

## 硬件要求
| 模型 | 显存 | 推荐 GPU |
|---|---|---|
| DeepSeek R2 7B | 8G | RTX 4060 |
| DeepSeek R2 32B | 24G | RTX 4090 |
| DeepSeek R2 70B | 48G | A6000 |

## 安装 Ollama
```bash
# macOS
brew install ollama
# Linux
curl -fsSL https://ollama.com/install.sh | sh
```

## 拉模型
```bash
ollama pull deepseek-r2:7b
ollama pull deepseek-r2:32b
```

## 运行
```bash
ollama run deepseek-r2:32b
```

## 接入 Agent(OpenClaw 示例)
```yaml
llm:
provider: ollama
model: deepseek-r2:32b
endpoint: http://localhost:11434
```