用途:用于审核成瘾康复社区(如 Junkie Buds 4 Life)的论坛帖子和评论,以减害原则和创伤知情照护为视角评估内容,区分健康冲突与虐待,并识别危机信号。
主要能力:按严重程度分级评估内容:CRITICAL(自动隐藏、通知、人工复核,如获取药物、自伤方法、人肉、暴力威胁)、HIGH(隐藏并排队复核,如人身攻击、羞辱、强迫、把门、破坏匿名)、MEDIUM(标记复核但保持可见)、LOW(仅记录)、PASS(无操作)。可检测危机模式(如“我现在就想用”“我要复吸了”“我撑不下去了”),检测到时不移除帖子、不居高临下,而是标记请求社区支持并温和提供资源。支持尊重作者选择的互动模式:no_crosstalk(仅表情反应)、just_listening(仅温和肯定)、open(开放讨论)、seeking_support(明确欢迎建议)。输出结构化评估结果,含 severity、category、confidence、explanation、crisis_detected、suggested_action 和可选 user_message。
使用方式:资料提供的触发短语包括 community moderation、moderate forum、review post、check content、flag content、crisis detection、no crosstalk。scripts/ 目录含 moderate_content.py(批量审核)、generate_report.py(生成审核报告)、train_examples.json(微调训练示例)。
适用场景:康复社区论坛帖与评论审核、用户内容中的危机指标检测、减害合规评估、创伤知情审核决策。
限制:不用于法律条款/隐私政策、应用开发代码、实际治疗或咨询、实时危机干预(应引导至 988 或紧急服务)。资料未提供具体安装命令、收费标准或平台信息。