非流式（上一版的写法）#

1
response = client.chat.completions.create(
2
    model="deepseek-chat",
3
    messages=[...],
4
    stream=False
5
)
6

7
st.chat_message("assistant").write(response.choices[0].message.content)

流式（本节的写法）#

1
response = client.chat.completions.create(
2
    model="deepseek-chat",
3
    messages=[
4
        {"role": "system", "content": system_prompt},
5
        *st.session_state.messages
6
    ],
7
    stream=True
8
)
9

10
# 创建一个空的组件, 用于展示大模型返回的结果
11
response_message = st.empty()
12

13
full_response = ""
14
for chunk in response:
15
    if chunk.choices[0].delta.content is not None:
16
        content = chunk.choices[0].delta.content
17
        full_response += content
18
        response_message.chat_message("assistant").write(full_response)
19

20
# 保存大模型返回的结果
21
st.session_state.messages.append({"role": "assistant", "content": full_response})

1. 为什么取值的路径变了#

delta 就是”增量”的意思，每次循环拿到的是新增的那几个字，不是全文。

2. 为什么要判断 is not None#

1
if chunk.choices[0].delta.content is not None:

流式返回的最后几个 chunk 里，delta.content 是 None（只带结束标记等元信息，没有文字）。如果不判断就直接字符串拼接，会报 TypeError。

3. st.empty() 的作用#

1
response_message = st.empty()
2
...
3
response_message.chat_message("assistant").write(full_response)

• st.empty() 先在页面上占一个空位
• 之后每次循环都往这个空位里重新写一次 full_response（累积后的完整文字），覆盖掉上一次的内容
• 效果就是同一个气泡里的文字不断变长，而不是每加几个字就新建一个气泡

4. 为什么还要 full_response 累加#

因为 delta.content 只是增量。要保存到 session_state.messages 里的是完整回答（下次发给模型时必须是完整的 assistant 消息），所以需要边拼边存。

一、回忆填空（写完再展开对答案）#

1. 开启流式：client.chat.completions.create(..., stream=____)
2. 流式里每次循环拿到的是”增量”，取值路径是 chunk.choices[0].____.content
3. 非流式取的是 message.content，流式取的是 ____.content（“增量”的意思）
4. 循环里要判断 content is not ____，因为最后几个 chunk 只带结束标记、没有文字
5. 占位组件：response_message = st.____()，之后可以反复往这个空位里覆盖写入
6. 边拼边存：full_response ____ content
7. 官方更简洁的写法：st.chat_message("assistant").____(response)

二、裸写题#

• 2-1 看清流式数据长什么样 发一次流式请求，在循环里打印每个 chunk 的 delta，观察：文字是怎么一段段来的？最后一个 chunk 里是什么？

  提示（先自己想，实在想不出再点开）

  一级 · 思路：不要急着拼字符串，先 print(chunk) 看清楚结构 二级 · 方法：for chunk in response: + 打印 chunk.choices[0].delta 三级 · 骨架：注意有些 chunk 的 delta.content 是 None，要先判断

  参考答案（做完再点开）

  1
  import os
  2
  from openai import OpenAI
  3
  
  4
  client = OpenAI(api_key=os.environ.get("DEEPSEEK_API_KEY"), base_url="https://api.deepseek.com")
  5
  
  6
  response = client.chat.completions.create(
  7
      model="deepseek-chat",
  8
      messages=[{"role": "user", "content": "从1数到5"}],
  9
      stream=True,
  10
  )
  11
  
  12
  for chunk in response:
  13
      print(chunk)                            # 先看整体结构
  14
      # 看清楚了再换成：print(chunk.choices[0].delta)
  15
  
  16
  # 观察结论：最后一个 chunk 的 delta.content 是 None（只带结束信息），
  17
  # 所以拼接前必须判断 is not None

  显示更多显示更少

• 2-2 打字机效果 用 st.empty() 实现：同一个气泡里的文字不断变长，而不是每加几个字就新建一个气泡。

  提示

  一级 · 思路：先占一个空位，之后每次循环都往这个空位重写”累积后的全文” 二级 · 方法：st.empty() / response_message.chat_message("assistant").write(full_response) 三级 · 骨架：不用 st.empty() 会怎样？试试直接 write，看页面上出现多少个气泡

  参考答案（做完再点开）

  1
  import os
  2
  import streamlit as st
  3
  from openai import OpenAI
  4
  
  5
  st.title("打字机效果演示")
  6
  client = OpenAI(api_key=os.environ.get("DEEPSEEK_API_KEY"), base_url="https://api.deepseek.com")
  7
  
  8
  prompt = st.chat_input("请输入您要问的问题")
  9
  if prompt:
  10
      st.chat_message("user").write(prompt)
  11
  
  12
      response = client.chat.completions.create(
  13
          model="deepseek-chat",
  14
          messages=[{"role": "user", "content": prompt}],
  15
          stream=True,
  16
      )
  17
  
  18
      response_message = st.empty()          # 先占一个空位，之后反复覆盖它
  19
      full_response = ""
  20
      for chunk in response:
  21
          if chunk.choices[0].delta.content is not None:
  22
              full_response += chunk.choices[0].delta.content
  23
              response_message.chat_message("assistant").write(full_response)
  24
  
  25
  # 对比：把 st.empty() 那两行换成每轮直接 st.chat_message("assistant").write(...)，
  26
  # 页面上会冒出几十个气泡，每个只装几个字

  显示更多显示更少