大模型部署的三种方式
大模型部署的三种方式
本地部署、官方开放 API、云服务平台三种大模型部署方式的优缺点对比,以及 DeepSeek 官方 API 的开通步骤
三种部署方式对比
| 部署方式 | 优点 | 缺点 |
|---|---|---|
| 本地部署 | 数据安全、自主可控、长期成本低 | 初始成本高、需长期维护、性能受限 |
| 官方开放 API | 前期成本低、无需部署和维护、随时访问 | 隐私不能保障、长期成本高、可控性差 |
| 云服务平台 | 前期成本低、无需部署和维护、选择度高 | 安全及隐私不能保障、长期成本高 |
一句话取舍:想省钱又要隐私就本地部署(但要显卡),想快速上手就用官方 API,想同时用多家模型就上云平台。
API 是什么
API:应用程序编程接口(Application Programming Interface),是软件间标准化的”桥梁”,允许开发者无需知晓内部细节即可调用外部功能或数据。
调用大模型 API 时,你不需要知道模型有多少参数、跑在哪台服务器上,只要按约定发一个 HTTP 请求,就能拿到模型的回答。
本地部署:Ollama
Ollama 是一个在本地运行、管理大语言模型的工具。官网:https://ollama.com/
适合:有独立显卡、对数据安全要求高、想离线使用的场景。
官方开放 API:以 DeepSeek 为例
主流大模型(如 DeepSeek、Kimi 等)官方都提供了开放 API,无需部署,注册后即可直接调用。
开通流程:
- 注册账号
- 登录 DeepSeek 开放平台
- 充值(课程中充 1 元即可)
- 创建 API Key
API Key 等同于账号密码:按调用量计费、能代表你的身份。不要写死在代码里,更不要提交到 Git 仓库。正确做法是放进环境变量,代码里用 os.environ.get("DEEPSEEK_API_KEY") 读取(见 Python 调用大模型)。
大模型 API 通常按 Token(词元) 计费:你发过去的提示词和模型返回的内容都会折算成 Token 消耗。所以”会话历史滚雪球”(把历史消息全部带上)会让每轮对话越来越贵,详见 会话记忆。
本章选用方案
| 项目 | 选择 |
|---|---|
| 部署方式 | 官方开放 API |
| 服务商 | DeepSeek |
| 调用协议 | 兼容 OpenAI 格式 |
| base_url | https://api.deepseek.com |
相关
练习题
一、回忆填空(写完再展开对答案)
- 三种部署方式:____ 部署、____ 部署(官方开放 API)、____ 服务平台
- 本地部署的优点:数据安全、____、长期成本低
- 官方 API 的优点:前期成本低、____、随时访问
- 本地运行、管理大语言模型的工具是 ____,官网是 https://ollama.com/
- API 的全称是 ____,中文叫 ____
- 开通 DeepSeek API 的步骤:注册账号 → 登录 → ____ → 创建 API Key
- DeepSeek 的
base_url是 ____
填空答案(做完再点开)
- 本地、官方、云 2. 自主可控 3. 无需部署和维护 4. Ollama 5. Application Programming Interface / 应用程序编程接口 6. 充值 7.
https://api.deepseek.com
二、概念自测
-
2-1 本地部署的三个缺点是什么?
参考答案(做完再点开)初始成本高、需长期维护、性能受限。
-
2-2 API Key 为什么不能直接写进代码?正确做法是什么?
参考答案(做完再点开)因为 API Key 等同于账号密码(能扣费、代表身份),代码仓库公开时会被扫描器收割滥用。正确做法:放进环境变量,代码里用
os.environ.get("DEEPSEEK_API_KEY")读取。 -
2-3 大模型 API 通常按什么计费?为什么”会话历史滚雪球”会让费用变高?
参考答案(做完再点开)按 Token(词元)计费。滚雪球会把之前所有对话每轮都重发一次,所以轮数越多、每轮消耗的 Token 越大,总费用增长得很快。
评论区
如果你喜欢,那么欢迎来到我的世界!
了解更多













