国庆节10月1日
--
大模型部署的三种方式
大模型部署的三种方式
AI 摘要- DeepSeek
本地部署、官方开放 API、云服务平台三种大模型部署方式的优缺点对比，以及 DeepSeek 官方 API 的开通步骤
封面图
三种部署方式对比
| 部署方式 | 优点 | 缺点 |
|---|---|---|
| 本地部署 | 数据安全、自主可控、长期成本低 | 初始成本高、需长期维护、性能受限 |
| 官方开放 API | 前期成本低、无需部署和维护、随时访问 | 隐私不能保障、长期成本高、可控性差 |
| 云服务平台 | 前期成本低、无需部署和维护、选择度高 | 安全及隐私不能保障、长期成本高 |
一句话取舍：想省钱又要隐私就本地部署（但要显卡），想快速上手就用官方 API，想同时用多家模型就上云平台。
API 是什么
API：应用程序编程接口（Application Programming Interface），是软件间标准化的”桥梁”，允许开发者无需知晓内部细节即可调用外部功能或数据。
调用大模型 API 时，你不需要知道模型有多少参数、跑在哪台服务器上，只要按约定发一个 HTTP 请求，就能拿到模型的回答。
本地部署：Ollama
Ollama 是一个在本地运行、管理大语言模型的工具。官网：https://ollama.com/
适合：有独立显卡、对数据安全要求高、想离线使用的场景。
官方开放 API：以 DeepSeek 为例
主流大模型（如 DeepSeek、Kimi 等）官方都提供了开放 API，无需部署，注册后即可直接调用。
开通流程：
- 注册账号
- 登录 DeepSeek 开放平台
- 充值（课程中充 1 元即可）
- 创建 API Key
Warning
API Key 等同于账号密码：按调用量计费、能代表你的身份。不要写死在代码里，更不要提交到 Git 仓库。正确做法是放进环境变量，代码里用 os.environ.get("DEEPSEEK_API_KEY") 读取（见 Python 调用大模型）。
Note
大模型 API 通常按 Token（词元） 计费：你发过去的提示词和模型返回的内容都会折算成 Token 消耗。所以”会话历史滚雪球”（把历史消息全部带上）会让每轮对话越来越贵，详见 会话记忆。
本章选用方案
| 项目 | 选择 |
|---|---|
| 部署方式 | 官方开放 API |
| 服务商 | DeepSeek |
| 调用协议 | 兼容 OpenAI 格式 |
| base_url | https://api.deepseek.com |
相关
练习题
一、知识回顾（读完直接做下面的实践题）
- 三种部署方式：本地部署、官方部署（官方开放 API）、云服务平台
- 本地部署的优点：数据安全、自主可控、长期成本低
- 官方 API 的优点：前期成本低、无需部署和维护、随时访问
- 本地运行、管理大语言模型的工具是 Ollama，官网是 https://ollama.com/
- API 的全称是 Application Programming Interface，中文叫应用程序编程接口
- 开通 DeepSeek API 的步骤：注册账号 → 登录 → 充值 → 创建 API Key
- DeepSeek 的
base_url是https://api.deepseek.com - API 是软件间标准化的”桥梁”：调用大模型 API 时不需要知道模型有多少参数、跑在哪台服务器上，只要按约定发一个 HTTP 请求就能拿到回答
- 本课程选用的方案：官方开放 API（服务商 DeepSeek，调用协议兼容 OpenAI 格式）
二、概念自测
-
2-1 本地部署的三个缺点是什么？
提示（先自己想，实在想不出再点开）一级 · 思路：从”钱、人（维护）、机器（显卡性能）“三个方面想本地部署要自己扛什么
参考答案（做完再点开）2-1 初始成本高、需长期维护、性能受限。
-
2-2 API Key 为什么不能直接写进代码？正确做法是什么？
提示（先自己想，实在想不出再点开）一级 · 思路：先想”这串字符等同于什么”，再想”代码会去哪里”（被推送、被公开），最后想密钥该放在哪种”不随代码走”的地方
参考答案（做完再点开）2-2 因为 API Key 等同于账号密码（能扣费、代表身份），代码仓库公开时会被扫描器收割滥用。正确做法：放进环境变量，代码里用
os.environ.get("DEEPSEEK_API_KEY")读取。 -
2-3 大模型 API 通常按什么计费？为什么”会话历史滚雪球”会让费用变高？
提示（先自己想，实在想不出再点开）一级 · 思路：先想计费的单位是什么（提示词和回复都要折算），再想”滚雪球”每轮到底重复发送了什么
参考答案（做完再点开）2-3 按 Token（词元）计费。滚雪球会把之前所有对话每轮都重发一次，所以轮数越多、每轮消耗的 Token 越大，总费用增长得很快。
评论区
[ 标签 ]
[ 分类 ]
[ 公告 ]
如果你喜欢，那么欢迎来到我的世界！
了解更多[ 音乐 ]
音乐
暂未播放
0:000:00
找不到相关结果。
[ contents ]
[ 全部文章 ]
