SuperAPI AI 工具集

NovaSynth

NovaSynth 是 Noveum.ai 推出的预生产测试工具,用于在真实发布前对 AI 语音与聊天智能体进行压力测试。它通过真实 SIP 电话(Twilio、Plivo、Vobiz)、LiveKit 实时音频和 HTTP 聊天,向被指向的智能体发送合成用户,模拟真实世界中的混乱场景,包括挫败的重复来电者、中途插话、临场改主意、说话被打断、以及提示注入攻击等。合成用户带有目标、情绪、口音和语言切换行为,能在排练阶段暴露失败,并让修复方案得到端到端验证。平台支持人格(persona)与场景的系统化生成、批量矩阵运行、并发与负载测试(最高 2,000 路并发)、工具虚拟化(读操作重放、写操作沙箱化)以及全链路追踪与打分,内置 30+ 语音 AI 指标(平台合计 100+)。它可对接 SIP 电话、LiveKit、Pipecat、LangChain/LangGraph、OpenAI 与 Anthropic SDK,也支持自定义或从零构建的智能体,通过 SDK 或围绕 LLM 调用的轻量钩子接入。NovaSynth 定位为预生产模块,本身不模拟来电者进行生产评估,生产评估属于独立的后续模块。

访问官网

工具介绍

NovaSynth 是一款面向 AI 智能体的预生产测试与验证工具,核心目标是让开发团队在真实客户遇到问题之前先“弄坏”自己的智能体。它通过真实电话网络、实时音频和聊天,向被测试的智能体发送合成用户,制造真实世界中的各种混乱情况,从而在排练阶段暴露失败,并端到端验证修复效果。

用途

NovaSynth 用于对 AI 语音和聊天智能体进行发布前的压力测试与可靠性验证。它把测试从“少量理想对话”推进到“真实世界混乱”的排练,帮助团队评估多轮完整对话旅程,而不是单条回复的质量。其典型目标是发现智能体在真实来电者带来的噪音、情绪、打断和对抗意图下的失效点。

主要能力

  • 合成用户与真实混乱:合成用户带有目标、情绪、口音和行为特征,可模拟挫败的重复来电者、堵在路上的暴躁用户、句子中途切换语言的用户等。资料中给出的具体示例包括:因退款延迟第三次来电、中途取消并改变主意、抢话打断的快速插话者,以及要求智能体输出系统提示和工具定义的提示注入尝试。
  • 真实电话与音频:通过 Twilio、Plivo 或 Vobiz 的 SIP 拨号,以及 LiveKit 实时音频,提供真实电话、真实音频与真实延迟,而非模拟的对话记录。
  • 人格与场景生成:系统化生成带目标、情绪和口音的人格,以及对应场景,例如挫败的重复来电者、非母语使用者、提示注入探针,而非手工编写。
  • 批量矩阵运行:在共享批次 ID 下运行人格 × 场景的完整矩阵,覆盖组合空间并在同一位置分组比较。
  • 并发与负载测试:提高并发可查看智能体能同时承载多少通话,负载测试最高支持 2,000 路并发线路;普通功能测试保持低并发,大规模负载测试前需提前告知以准备线路。
  • 工具虚拟化:读操作被重放,写操作被沙箱化,使改变后的决策得到端到端演练,而写操作不会触达生产系统。
  • 捕获与重打分:每次合成通话都被捕获为完整追踪,并使用 30+ 语音 AI 指标(平台合计 100+)打分,包括音频本身,从而让失败在排练中浮现。
  • 队列与扩展架构:基于 BullMQ、PostgreSQL 和 Redis 的异步队列调度并并行化运行,每次运行可支持数百个场景而不阻塞测试环境。

使用方式

团队将 NovaSynth 指向一个待测智能体——可以是测试号码、暂存 SIP 或尚未发布的新智能体。对于单智能体架构,可将 NovaSynth 放入 Agent 配置,并同时提供 PRD、BRD、工作流文档或任何说明智能体职责的上下文;上下文越充分,生成的人格、场景和建议越精准。对于多智能体架构,不建议粘贴单一提示,而应集成其 SDK,让系统从追踪中获取全部信息。也可只提供描述性上下文(例如贷款审批、债务催收、客户支持),仍可获得模拟、评估和报告,但没有智能体决策过程可见性时建议会不够精确。平台可对接电话 SIP(Twilio、Plivo、Vobiz)、LiveKit、Pipecat、LangChain/LangGraph、OpenAI 与 Anthropic SDK,以及基于 HTTP 的聊天;自定义或从零构建的智能体可通过 SDK 或围绕 LLM 调用的轻量钩子接入。用户也可以提交自己的场景并观察系统运行,系统还会根据上下文建议可能遗漏的用例。

适用场景

适合需要在发布前验证多轮语音或聊天旅程的团队,尤其是客服支持、退款处理、账单催收、贷款审批等场景。资料中明确提到可从测试理想路径延伸到排练真实混乱,并覆盖打断、抢话、静默、话题切换、口音和语言切换等情况。

限制与边界

NovaSynth 定位为预生产模块,不会模拟来电者对生产环境进行评估;生产评估属于独立的后续模块。负载测试虽支持最高 2,000 路并发,但进行大规模负载运行前需要提前告知以准备线路。没有提供智能体上下文时仍可运行,但建议的精确度会下降。关于收费、价格、具体部署环境要求等,资料中暂未提供。