用途:管理流经 Groq 推理 API 的数据,在 Groq SDK 外搭建隐私流水线,避免 PII 进入 API 调用,并对响应做过滤与审计。
主要能力:四阶段流水线——发送前用 PII 规则表清洗消息并标记命中类别;用 safeCompletion 包装补全调用,使输入与响应都经过清洗;trackUsage 按模型价格表记录 token 数与预估成本;auditedCompletion 记录提示词的 SHA-256 哈希(不记录原文)形成审计轨迹。输出包括脱敏文本([EMAIL]、[PHONE]、[SSN]、[CARD]、[IP] 占位符)、hadPII 标记、每次调用的用量 JSON 行、审计 JSON 行与聚合成本报告。可叠加 Llama Guard 内容审核与每日成本报告。
使用方式:需 Node.js 项目并安装 groq-sdk(npm i groq-sdk),将 API 密钥导出为 GROQ_API_KEY,SDK 会自动读取,new Groq() 无需显式参数;密钥不要硬编码,放在未跟踪的 .env 或密钥管理器中。审计哈希使用 Node 内置 crypto 模块,无需安装。调用时用 auditedCompletion(sessionId, messages) 替代原始 groq.chat.completions.create。
适用场景:需要让 PII 远离 Groq API 调用、过滤模型响应、审计对话记录或跟踪 token 成本与用量的项目。
限制与注意:Groq 不使用 API 数据训练模型,提示与补全处理后即丢弃,但可能为防滥用临时记录请求;企业级 DPA 与 SOC 2 合规细节需联系 Groq。流式模式下用量数据可能缺失,需改用非流式或估算;若部分代码路径未走包装函数会出现审计缺口,可用 lint 规则禁止直接调用 groq.chat.completions.create。完整实现与示例见技能内 references/implementation.md 与 references/examples.md。