streaming-api-patterns 是一个面向实时数据流的技能,适合实现流式响应、实时数据更新等场景,典型用途包括流式 LLM 响应(类 ChatGPT 界面)、实时通知与更新、实时数据源(股价、分析)、聊天应用、长任务进度更新和协作编辑。
主要内容分三类技术。Server-Sent Events(SSE)适合服务端到客户端的单向流,如 LLM 响应和通知;WebSockets 适合双向实时通信,如聊天与协作;ReadableStream API 适合带背压的大数据流处理。资料同时给出 LLM 流式模式:服务端以 stream: true 调用并逐块封装为 data: 事件,客户端用 fetch 读 body 的 reader 解析 data: 前缀,遇到 [DONE] 结束。
使用方式上,SSE 需设置 Content-Type: text/event-stream、Cache-Control: no-cache、Connection: keep-alive,并按约 30 秒发送保活消息,客户端可用 EventSource 接收;重连可实现指数退避,从 1000ms 起翻倍至 30000ms 上限。Python 侧强调用 contextlib.aclosing() 保证异步生成器在异常时也能清理,适用于外部 API 流、数据库流式结果、文件流和带 try/finally 的生成器。
限制与决策指引:SSE 用于服务端到客户端流式传输,WebSockets 用于双向通信,LLM 令牌流用 ReadableStream + SSE;要处理浏览器每域 6 个连接限制、慢消费者超时、消息校验与缓冲。资料未说明该技能的安装命令、收费、价格或平台信息,这些内容暂未提供。