SuperAPI AI 工具集

frustration-detection

智能体与模型

查看项目

更新于 10-16 07:46

技能介绍

Frustration Detection 是一项感知技能,用于从文本信号中读取用户情绪状态,并让系统在用户流失前做出适应。大多数 AI 产品把每条用户消息视为具有相同的情感权重,但事实并非如此。“Cancel my subscription.” 和 “PLEASE just cancel my subscription!!!” 应当得到不同的回应。挫败感检测就是捕捉这一信号的感知技能,使系统其余部分能够据此调整。

这项技能没有正式名称,但它位于语气校准、升级设计和优雅修复等技能背后。没有它,这些技能无法在正确时机触发。

检测信号

语言类

  • 大小写变化:全大写、突然出现 “PLEASE”、“URGENT”
  • 标点密度:?!?!、....、多个 !!
  • 去缓冲:简短、命令式(“just fix it”、“stop”)
  • 重复:同一概念跨轮次反复表述
  • 脏话(轻度或强烈)

结构类

  • 轮次延迟缩短(快速连续回复)
  • 轮次延迟超过阈值(离开)
  • 在得到回复后重新提出同一问题
  • 明确要求转人工(“speak to a person”)
  • 突然切换话题

词汇 / 情感类

  • 负面情感词(“useless”、“annoying”、“broken”)
  • 时间压力词(“now”、“immediately”、“deadline”)
  • 怀疑词(“really?”、“are you sure”、“is that right”)
  • 放弃词(“never mind”、“forget it”、“whatever”、“fine”)

检测应跨信号、跨轮次累积,而非依赖单一特征。

决策规则

  • 一个信号是噪声,两个信号构成模式。不要对单条全大写消息采取行动;当全大写加上重复出现时再行动。
  • 如果挫败感上升,且 AI 已经尝试修复过一次,则升级。不要尝试第三次换说法。
  • 紧迫但无挫败感 ≠ 挫败感。加速即可,不要改变语气。
  • AI 长回复后的长延迟是离开,不是深度阅读。保存状态,提供重新参与的机会,不要继续。
  • 静默适应。不要点明情绪。“I sense you're frustrated” 显得居高临下。降低确定性、放慢节奏、提高温度——但体现在行文中,而非元评论中。

反模式

  • 表演式情绪镜像:“I'm so sorry to hear that!” 在规模化场景下读起来像脚本。
  • 要求用户确认其状态:“Are you frustrated?” 用户是来寻求帮助的,不是来被分析的。
  • 一次性检测:单一信号触发完整的共情连锁反应。检测必须累积。
  • 检测后不行动:读取信号后继续同一套流程,使检测沦为表演。
  • 过度共情:一句话加一个修复就能解决的事,却写两段验证。挫败的用户没有带宽承受温暖。

何时不使用

  • 事务型界面(搜索框、代码补全)——没有对话漂移可读。应改用反馈循环。
  • 首轮冷启动——检测是相对的,需要基线。将首轮信号视为描述性而非诊断性。
  • 已有明确反馈控件的产品(点踩、“this isn't helping”)——用户已有控制权,不要额外附加推断。

相关技能

  • tone-calibration——检测到信号后该做什么:降低确定性、放慢节奏、提高温度。
  • escalation-design——挫败感是已记录的升级触发条件之一;本技能用于检测该触发条件。
  • feedback-loops——处理关于输出质量的环境信号的近亲;本技能处理关于用户状态的环境信号。
  • harm-anticipation——当挫败感滑向痛苦(危机标记、脆弱性)时,通过伤害预判进行升级处理。

设计产物

挫败感评分卡,按会话累积计分:

信号 权重
全大写消息 +2
脏话 +3
重复提问(第 3 次及以上) +2
!! 或 ?? 标点 +1
明确要求转人工 +5
放弃词(“forget it”) +3
长延迟(AI 回复后超过 3 分钟) +2

升级阈值:5。语气转变阈值:2。

示例:

  • 第 1 轮:“hey can you help me cancel my order” → 0
  • 第 2 轮:“the cancel button isn't working” → 0(问题陈述,非挫败感)
  • 第 3 轮:“i've tried 3 times PLEASE” → +4(全大写、重复、“please”)→ 得分 4 → 语气转变
  • 第 4 轮:“this is USELESS” → +2(全大写)+3(负面情感)→ 得分 9 → 升级

其他产物:

  • 按产品基线:最近 1000 次会话的平均挫败感得分;偏离 2σ 时告警
  • 按产品校准延迟阈值(聊天支持:30 秒为参与 / 2 分钟为离开)
  • 测试场景:顺利路径、缓慢上升、突然飙升、静默离开、恢复(修复后得分中途下降)

改编自对话系统中情感计算的研究(Picard;Bickmore 关于情感对话智能体的工作)。