SuperAPI AI 工具集

streaming-patterns

智能体与模型

查看项目

更新于 10-16 05:45

技能介绍

用途:配置 Google ADK 的 bidi-streaming(双向流式),实现用户与 AI 智能体之间的低延迟双向通信,用于构建实时多模态智能体,支持文本、音频、视频输入输出。

主要能力:实时交互(用户输入过程中即可处理并响应)、自然打断(用户可中途打断智能体回复)、多模态支持、流式工具(可随时间产出中间结果的工具)、会话持久化(应对约 10 分钟连接超时)。

必要用法:通过 RunConfig 配置响应模态与流式模式,例如 RunConfig(response_modalities=["AUDIO"], streaming_mode=StreamingMode.BIDI);用 LiveRequestQueue 入队文本、音频块等多模态输入,并用活动边界标记分段;通过 agent.run_live(request_queue, run_config=run_config) 异步迭代事件,处理 server_content(模型回复、turn_complete)、tool_call 与 interrupted。会话恢复可配置 session_resumption,上下文压缩可配置 context_window_compression(如 trigger_tokens=100000、sliding_window target_tokens=80000)。平台通过环境变量切换:export GOOGLE_GENAI_USE_VERTEXAI=FALSE(Google AI Studio)或 TRUE(Vertex AI),无需改代码。流式工具以异步生成器配合 @streaming_tool 定义。多智能体可通过传入同一 session 实现会话交接。

资源:templates/ 提供配置、流式工具、音频、视频、队列、事件处理模板;scripts/ 提供配置校验、队列测试、模态兼容检查;examples/ 提供语音、视频、流式工具、多智能体交接示例。所有示例仅用占位符,不含真实密钥,使用环境变量。

限制:每个会话只能选一种响应模态,中途不可切换;需注意会话恢复与配额;具体音频/视频参数细节见模板文件。