SuperAPI AI 工具集

crisis-response-protocol

通用与其它

查看项目

更新于 10-16 05:04

技能介绍

用途:为 AI 教练系统(尤其是康复/心理健康类应用)实现安全的危机干预功能,覆盖危机检测、安全协议、紧急升级等场景。资料明确禁止场景:自己应对真实危机(应拨打 988 或急救)、通用心理健康内容、医疗诊断建议、替代人类危机咨询师。

主要能力:按三级风险指标分类(primary 需立即升级、secondary 需加强监测、tertiary 作为关心触发);通过 assessCrisisLevel 结合消息内容、对话历史与签到记录评估 none/low/medium/high/critical 等级并给出推荐动作;五级响应协议,从正常对话、温和关心、安全资源、危机协议到紧急升级;内置 988、Crisis Text Line、SAMHSA、AA/NA、退伍军人热线、Trevor Project 等资源库;紧急联系人通知(不含对话内容以保护隐私);AI 安全护栏提示词、不安全回复模式校验、审计日志与人工复核标记。

使用方式:在聊天处理流程中,先于生成 AI 回复评估危机等级并记录;critical 时停用 AI、通知紧急联系人并转入人工复核;high 时展示危机资源并谨慎继续;较低等级注入安全上下文并校验回复。资料中代码文件路径示例包括 src/lib/ai/crisis-detection.ts、src/lib/ai/chat-handler.ts、src/lib/crisis/resources.ts、src/lib/crisis/emergency-contacts.ts。

限制与注意:核心安全原则是 AI 绝不作为急性危机的唯一响应者;测试中禁止使用真实危机内容;紧急通知不得包含对话内容。具体安装命令、收费方式、支持平台与效果数据暂未提供。