SuperAPI AI 工具集

operating-livekit-agents

智能体与模型

查看项目

更新于 10-16 00:01

技能介绍

该技能面向 LiveKit agent 已能运行之后的生产环节:把版本发布到 LiveKit Cloud、在真实负载下保持存活与低延迟,并在不破坏运行中实例的前提下改动。命令都在 lk agent 下,应查阅 lk agent --help 及各子命令帮助,不依赖本技能转述的 flag。

用途与主要能力:部署与回滚(项目目录通过 livekit.toml 绑定 agent,容器化发布,每次部署生成版本并 rollout,用 status、versions、logs 查看线上状态与 rollout 失败原因;回滚恢复旧版本,恢复速度视套餐而定);密钥以环境变量注入、与代码分离,改密钥会重启 agent;worker 进程模型中父进程预暖、子进程继承,只预暖昂贵且只读或并发安全的资源,并验证子进程确实复用预暖实例;框架持有事件循环,禁止在 worker 内新建异步运行时或从同步构造函数阻塞等待异步结果,否则出现事件绑定到不同循环、循环已在运行、任务被销毁、循环已关闭等错误。

生产容错与性能:为 STT、TTS、LLM、VAD 等设置超时,区分可重试的瞬时故障与需降级或升级的持续故障,降级要有可听见的回应而非静默,并记录提供商响应时间。优化前先测量用户可感知的首音频时间,拆分为连接、提供商初始化、首次推理、工具执行;避免异步上下文中的同步 I/O、通话中加载、无界上下文、全局注册所有工具。端点检测与轮次检测需按用例调参,用音频模拟评分而非凭感觉。

停机与升级:生产模式在终止信号时排空,先停接新任务、在排水超时内完成活跃任务再退出;编排器宽限期需与排水超时匹配,通话后工作须绑定任务生命周期。开发模式没有排空,停机行为须在 start 模式测试。SDK 版本迭代快,应固定版本,升级前读 changelog,在分支升级并跑测试套件、真实对话与模拟套件,部署后数小时关注延迟与错误率。

可观测性与排障:每条日志带会话 id,记录阶段边界耗时,提供商指标与应用日志分开。排障先分类再复现:循环与任务错误、提供商超时与降级、静默工具失败、连接不稳定,然后本地用 debugging-livekit-agents 复现、用 testing-livekit-agents 固定为测试、整段对话失败则加场景。改动线上代码前先读项目自身文档与惯例,参照既有模块的初始化、配置、测试与配置管线,复用已有 fixture 与 mock 模式,在边界处 mock。

限制:本技能不重述命令 flag;回滚即时性、可用的可观测性能力等细节需查部署与可观测性文档;具体定价、套餐差异与模拟场景文件格式资料未详细提供。