WebSocket协议：LLM流式输出离不开它

可视化演示

协议本质——那通不挂断的电话

打电话时，你和对方共享一条持续的线路。你说，他听；他说，你听。不需要每次开口前都重拨一次号码。WebSocket在浏览器和服务器之间做的就是这件事——建立一条"不挂断的电话线"。

WebSocket是一种建立在TCP之上的全双工通信协议。所谓"全双工"，就是双方可以同时说话。连接一旦建立，客户端和服务器地位对等，谁都可以随时发送数据，不需要像HTTP那样每次都先打招呼。为什么需要它？因为HTTP是"请求-响应"模式，服务器永远是被动的一方。如果服务器想主动推送消息——比如AI正在生成文字——HTTP做不到。有些系统用"轮询"（前端每隔1秒问一次"生成了吗"）来模拟推送，这就像每隔几秒给朋友寄一封信问"下一句念了没"，信件满天飞，效率极低。

从开销角度看，WebSocket的长连接特性可以用一个简单的数学关系说明。假设要推送N条消息，HTTP每次请求都要携带大量头部（记为$C_r$），而WebSocket只需一次握手开销$C_h$加上每帧2字节：

通俗说明：HTTP每推一条消息都要付一次"邮费"（请求头），WebSocket拨通电话后，每条消息只需付"2分钱"（2字节帧头）。N越大，差距越明显。

HTTP对比——寄信与电话的差距

你寄出一封信："今天天气如何？"朋友回信"晴"。你又想知道明天天气，于是再写一封信……HTTP就是这样的"寄信"流程：一次请求对应一次响应，服务器从不主动开口。

HTTP有三个痛点，恰好对应WebSocket的三个优势。

第一，连接方式。HTTP是短连接：一次请求-响应结束后连接就基本完成了使命（HTTP/1.1虽有keep-alive，但依然是"一问一答"的节奏）。WebSocket是长连接：握手成功后一直保持，直到某一方主动关闭。第二，通信方向。HTTP是半双工——同一时刻只能一方发送数据，请求发出后只能等待响应。WebSocket是全双工——双方可以同时双向发送，服务器也能主动推送。第三，头部开销。HTTP每个请求都要携带URL、Cookie、User-Agent等大量头部，动辄几百字节；WebSocket建立连接后，一条数据帧最小只需要2字节的开销。寄信时每次都要写地址贴邮票，而电话接通后说十个字和说一千个字，成本几乎一样。

那"轮询"能不能解决实时性？可以，但代价巨大。轮询的实时性本质上取决于轮询间隔：

通俗说明：前端每隔T秒问一次"生成了吗？"，服务器生成消息后，用户平均要等半个轮询周期加上网络延迟才能感知到。间隔调短则实时但请求泛滥，间隔调长则迟钝——这就是"寄信"模式的死穴。

握手过程——拨号与身份确认

打电话的第一步是拨号。对方接起说"喂，你好"，你说"我是小王"，双方确认身份后，通话才正式开始。WebSocket的握手也是这样：先通过HTTP"拨号"，确认身份后，协议才从HTTP切换到WebSocket。

握手过程是一个特殊的HTTP GET请求：

```

GET /chat HTTP/1.1

Host: server.example.com

Upgrade: websocket

Connection: Upgrade

Sec-WebSocket-Key: dGhlIHNhbXBsZSBub25jZQ==

Sec-WebSocket-Version: 13

```

其中Upgrade: websocket和Connection: Upgrade表示"我要切换协议"；Sec-WebSocket-Key是客户端生成的16字节随机数的Base64编码，相当于"暗号"。服务器收到后，把这个暗号与固定GUID拼接，计算出一个校验值，通过Sec-WebSocket-Accept响应头返回，同时返回101 Switching Protocols状态码——语义是"协议切换成功"。

计算Sec-WebSocket-Accept的公式如下：

通俗说明：服务器把客户端发来的"暗号"加上固定盐值（GUID），做一次SHA1哈希，再Base64编码，得到一个"接头暗号"返回。客户端验证暗号匹配，就确认对面真的是WebSocket服务器，通话开始。

帧格式——通话中的每一句话

电话里的每一句话，都有开始、内容、结束。WebSocket的"每一句话"叫做帧（Frame）。帧是WebSocket数据传输的最小单位，一条业务消息可能由一个或多个帧组成。

帧的头部结构非常紧凑。第1字节由三部分构成：最高位的FIN位、3个RSV保留位、4位opcode操作码。第2字节包含MASK掩码位和7位payload长度。如果实际数据较长，7位装不下，就采用扩展长度。opcode字段定义了帧的类型：0x1是文本帧、0x2是二进制帧、0x8是关闭帧、0x9是ping、0xA是pong。当一个很大的数据包需要发送时，发送方会先发一个FIN=0的首帧，再发若干FIN=0的继续帧，最后一帧的FIN=1标记结束——就像念一篇长文章时分段念："第一段……"（还没完）、"第二段……"（还没完）、"第三段，完了"（结束）。

长度编码的规则用数学表达式可以写为：

通俗说明：帧头用7位表示长度，装不下时用"126"和"127"两个特殊标记告诉对方"后面还有更多位来精确表示长度"。就像电话通话中先报个大概，接着再补充详细内容。

心跳保活——"喂，还在吗？"

打电话时间长了，你可能会问一句"喂，还在吗？"确保对方没掉线。WebSocket连接也需要这样的"确认"，因为网络并非永远可靠。

这里有个关键背景——连接闲置问题。网络路径上的NAT网关、运营商路由器，通常会回收一段时间内没有数据流动的连接。比如某个NAT设备规定"5分钟没有流量就关闭映射"，那么即使客户端和服务器都没主动断开，这条WebSocket连接也会在中间被"悄悄掐断"，而两端都不知道。这就是"假死"连接。

WebSocket协议为此设计了心跳机制——ping/pong帧。服务端定时（比如每30秒）发送一个ping帧问"还在吗"，对端收到后，协议栈会自动回复一个pong帧说"在呢"。如果服务端在超时时间内没收到pong，就判定连接已经断开，触发重连流程。心跳周期的设计有一个必须遵守的约束：

通俗说明：心跳间隔必须小于NAT等中间设备的空闲回收超时时间，才能保证连接一直"看起来活跃"，不被静默回收。就像跟朋友约定：每隔5分钟必须互相说句话，这样大家才知道对方没睡着。

断线重连——电话断了，重新拨

即便是最稳定的通话，也可能因为信号干扰、对方手机没电、进入电梯而中断。WebSocket连接同样可能随时断开：网络抖动、服务器重启、客户端切换Wi-Fi，都会让长连接瞬间失效。

断线重连是生产级WebSocket应用的必修课。重连策略中，最经典的算法是指数退避（Exponential Backoff）：第一次失败后等1秒再试，第二次等2秒，第三次等4秒……等待时间指数增长，直到一个上限。这样做的原因是，如果服务器刚刚崩溃重启，客户端们同时疯狂重连，会把服务器再次压垮。退避等待给服务器留出喘息时间。

重连等待时间计算公式如下：

通俗说明：第n次重试前等待的秒数，以初始值d0为基准，每失败一次翻倍，但最多不超过上限dmax。就像打不通电话时，你越来越多等一会儿才重拨，而不是每秒钟疯狂重拨。

流式应用——一个字一个字念给你听

终于到了最激动人心的环节。LLM生成回答时，并不是等整篇文章生成完才交付——而是像朋友在电话里逐字念给你听："今""天""天""气""真""好"。你听到第一个字就能开始理解，不用干等。

LLM推理是逐token生成的，每个token约等于一个字（或一个子词）。服务端每生成一个token，立刻通过WebSocket的send()推送出去。前端在onmessage回调中收到这个token，把它追加到对话界面上——这就是"打字机效果"。用户看到AI"正在打字"的过程，而不是傻等几秒后刷出一整段答案。流式体验的核心指标是"首字延迟"，也就是用户从发出请求到看到第一个字的耗时：

通俗说明：流式模式下，首字延迟只取决于模型生成第一个token的时间加上网络传输时间；而非流式模式，则要等全部token生成完。两者的体验差距，就像朋友念第一个字和把整封信寄给你在时间上的差异。

AI 应用场景

Python 演示

import asyncioimport jsonimport websockets TOKENS = [“你”, “好”, "！", “我”, “是”, "AI", “助”, “手”] async def llm_stream(websocket):    ""“模拟LLM流式生成：像打电话一样，一个字一个字推送”""    await websocket.send(json.dumps({"type": "start"}))    for token in TOKENS:        await asyncio.sleep(0.1)        await websocket.send(json.dumps({"type": "token", "content": token}))    await websocket.send(json.dumps({"type": "end"}))    print(“流式发送完成”) async def chat_client():    ""“客户端：接收流式token，逐字打印，模拟打字机效果”""    async with websockets.connect("ws://localhost:8765") as ws:        async for message in ws:            data = json.loads(message)            if data["type"] == "token":                print(data["content"], end="", flush=True)            elif data["type"] == "end":                print(“\n[流式输出结束]”)                break async def main():    async with websockets.serve(llm_stream, "localhost", 8765):        print(“WebSocket服务已启动：ws://localhost:8765”)        await chat_client() if name == "main":    asyncio.run(main())

常见误区

面试题