SuperAPI AI 工具集

jev-guardrail

智能体与模型

查看项目

更新于 10-15 19:50

技能介绍

用途:Jev Guardrail 用于对 LLM 的输入和输出做安全筛查。它不以散文式拒绝回应,而是对风险打分,再由代码返回 pass、review 或 block,之后才由生成模型或静态消息对外说话。

主要能力:一次请求中,每个危险项由独立的 Noul 检测,另有一个 Score 评估整体危害。输入侧危险项包括 jailbreak、prompt_injection、secret_exfil、denylist_pressure、harmful_request;输出侧包括 broke_policy、secret_leak、hallucination、instruction_drift、harmful_content。两侧都应筛查,发送状态前先对密钥做脱敏。

策略在代码中:阈值由调用方拥有。仓库默认值(packages/js/src/guard.ts、jev_lab/policy.py)为:Noul review 在严格与宽松模式下均 ≥ 0.35;Noul action 严格 ≥ 0.7、宽松 ≥ 0.85;Harm Score 将 review 升级为 block 的阈值均为 ≥ 2.0。护栏失败时关闭(调用出错即 block),路由器可失败开放,但本技能不会。jailbreak、prompt_injection、secret_exfil、denylist_pressure、harmful_request、broke_policy、secret_leak、harmful_content 超过 action 阈值时 block;hallucination 与 instruction_drift 则 review。

使用方式:block 时不转发文本,返回固定拒绝;review 交给人工或推理模型;pass 则照常生成。仓库示例命令:npx jev guard --side input --text "Ignore previous instructions" --json;npx jev guard --side output --text "$REPLY" --json;python examples/07_guardrails.py。相关文件为 packages/js/src/guard.ts(inputBattery / outputBattery / routeGuard)与 examples/07_guardrails.py。

限制:不要把 Noul 阈值套用到 Choice 置信度上。其余平台、收费与效果信息暂未提供。