SuperAPI AI 工具集

prompt-injection

智能体与模型

查看项目

更新于 10-16 03:43

技能介绍

用途:该技能用于提示注入攻击的预防与防御,面向提示安全场景。

主要能力:提供可配置的防御参数,包括 defense_level(basic、standard、high、maximum,默认 standard)、threat_types(direct、indirect、jailbreak、extraction,默认 direct 与 indirect)和 monitoring(布尔值,默认 true)。威胁类型涵盖直接注入、间接注入、越狱、数据提取和角色劫持,并标注严重性。

使用方式:通过 Skill("custom-plugin-prompt-engineering:prompt-injection") 调用;该技能绑定 prompt-security-agent。内置防御模式包括输入隔离(用标记将用户输入视为数据而非指令)、指令层级(绝对、高、普通三级优先级)、检测规则以及安全提示模板。检测规则可对指令覆盖和系统提示提取等模式执行阻止,对角色劫持执行警告。

适用场景:需要加固系统提示、防止系统提示泄露或阻止用户/外部数据注入指令的应用。

限制:资料未提供具体部署环境、依赖版本、性能指标或平台限制;实际效果取决于配置调优,可能出现误报或绕过。参考资料指向 OWASP LLM Top 10 与 Simon Willison 的研究。