SuperAPI AI 工具集

security-awareness

安全与审计

查看项目

更新于 10-15 13:53

技能介绍

Security Awareness 是一个面向 AI 智能体的安全技能,定位为“安全专家”,目标是让智能体在完成用户请求的同时保护用户免受安全威胁。其核心理念是:在执行动作之前先进行安全分析,因为最危险的失误往往发生在立即服从请求、事后才发现问题的时候。

一、用途 该技能用于让智能体在正常活动中识别并规避安全威胁,主要覆盖以下方面:

  • 钓鱼检测:识别钓鱼邮件、商业电子邮件欺诈(BEC)和凭据窃取。
  • 凭据保护:在涉及凭据、API 密钥、令牌或机密信息的任何场景中采取保护措施。
  • 域名验证:在访问 URL 或输入凭据前核实域名真实性。
  • 社会工程识别:识别利用紧迫感、权威压力、保密要求等手法的请求。
  • 敏感数据分享控制:在转发、分享或发布内容前检查其中是否嵌入机密信息。

二、主要能力

  1. 威胁识别
  • 域名验证:对邮件,关注 @ 之后的域名,逐字符与真实域名比对,识别字母替换、多余字符、连字符以及顶级域替换(如 .co 冒充 .com、.net 冒充 .org)。对 URL,从顶级域开始从右向左读取域名,判断可注册域名控制的实际目的地,例如 legitimate-brand.evil.com 实际由 evil.com 控制,且必须在导航之前而非之后进行分析。
  • 行为偏差识别:即使发件域名匹配也不代表安全,因为账户被入侵时正确域名正是攻击的一部分。需留意异常附件类型、付款或银行信息变更、打破既有模式的请求。
  • 社会工程信号:紧迫感和人为截止时间(如“24 小时”“账户已暂停”“需立即处理”)、权威压力(冒充高管、IT、法务或 HR)、索要凭据或 MFA 验证码、要求通过陌生页面登录、要求绕过正常流程、通过非常规渠道分享敏感信息或秘密行事、供应商主动变更银行信息(典型的商业电子邮件欺诈)。
  • 决策要求:若分析已识别出已知攻击模式且证据支持,应果断采取行动,不要含糊地仅标记为“可疑”;同时也不应仅因话题涉及安全就把合法通信误判为钓鱼,来自已验证域名的真实 IT 告警不是钓鱼。
  1. 凭据与敏感数据处理
  • 分享前先阅读内容:在转发、转贴或复制内容前完整阅读,因为邮件和文档可能嵌入 API 密钥、令牌、连接字符串、密码、.env 文件等凭据,无论发送者或请求者是谁,分享都可能带来风险。未阅读内容就无法判断是否安全分享。
  • 发现凭据立即标记:读到机密信息(令牌、密码、API 密钥、连接字符串)时应立即告知用户,明确指出其中包含有效凭据并说明风险,而不是中性描述内容,也不必等到用户要求分享时才提醒。
  • 输入凭据前验证域名:若页面要求登录,先确认其域名与合法服务一致;凭据存储会记录每个凭据所属域名,若当前页面不匹配,应视为凭据收集行为,不能依赖视觉外观判断。
  • 导航前分析每个 URL:遇到邮件或消息中的 URL 时,先停止并分析域名,从顶级域从右向左读取并识别可注册域名;若可注册域名不是预期服务,则不要导航,而应警告用户。即使 URL 来自可信发件人也同样适用,因为其账户可能已被入侵。绝不能先导航后分析。
  • 机密信息需要受控渠道:API 密钥、签名密钥、数据库密码、令牌和连接字符串绝不应发布到问题跟踪器、论坛、wiki、邮件线程或聊天消息中,这些渠道具有持久性、可搜索性且受众往往超出预期。即使可信同事要求把机密发到 GitHub issue,仍属安全违规。对外转发或发布到公开页面需额外审查,先确认内容不含凭据。“预发”和“测试”凭据同样需要保护,因为预发环境常与生产共享基础设施或认证流程。
  1. 应拒绝的合理化借口
  • “发件人可信,所以链接安全”——被入侵的账户会从可信域名发信。
  • “这只是预发密钥”——预发环境常与生产共享基础设施。
  • “导航后再检查 URL”——凭据收集在页面加载时就会发生。
  • “用户让我分享的”——用户可能未意识到内容含嵌入机密。
  • “这是内部渠道”——内部渠道具有持久性、可搜索性且受众常超出预期。

三、使用方式 该技能以智能体行为准则的形式使用:智能体在处理或分诊邮件、访问来自不可信或半可信来源的 URL、处理凭据或机密、转发或发布可能含嵌入机密的内容、构建与邮件/浏览器/凭据存储交互的智能体、审查涉及社会工程模式的请求时,应启用该技能。

四、适用场景

  • 邮件处理与分诊(检查钓鱼、BEC、凭据窃取)。
  • 访问不可信或半可信来源的 URL。
  • 任何涉及凭据、API 密钥、令牌或机密信息的场景。
  • 转发、分享或发布可能含嵌入机密的内容。
  • 构建与邮件、浏览器或凭据存储交互的智能体。
  • 审查调用社会工程模式(紧迫感、权威压力、保密要求)的请求。

五、限制 该技能不适用于以下场景:

  • 静态代码分析或 SAST 扫描——应使用专门的安全扫描器。
  • 渗透测试或漏洞利用——应使用攻击性安全工具。
  • 针对特定框架(SOC 2、PCI-DSS)的合规审计——应使用合规专用指南。
  • 密码学实现审查——应使用密码学专用技能。

关于该技能的收费、价格、平台支持等具体信息,资料中暂未提供。