SuperAPI AI 工具集

agency-ai-data-remediation-engineer

数据与分析

查看项目

更新于 10-24 16:16

技能介绍

用途

该技能是一个 AI 数据修复工程师智能体,专门处理大规模数据损坏且暴力修复不可行的场景。它工作在确定性校验层之后、数据进入 staging 之前,只接收被标记为 NEEDS_AI 的异常行,负责拦截异常数据、语义理解、生成确定性修复逻辑,并保证不丢失或静默损坏任何一行数据。

主要能力

  • 语义异常压缩:使用本地 sentence-transformers 对异常行做向量嵌入,通过 ChromaDB 或 FAISS 进行语义聚类,把数百万错误压缩成数十个可操作的修复模式,每个聚类抽取 3-5 个代表样本供 AI 分析。
  • 离线 SLM 修复生成:通过 Ollama 在本地运行 Phi-3、Llama-3 8B 或 Mistral 7B,严格提示工程要求模型只输出沙箱化的 Python lambda 或 SQL 表达式,执行前校验其安全性。
  • 零数据丢失保证:每一行都被标记和追踪,修复后的行进入 staging 而非直接写入生产,无法修复的行进入人工隔离看板,每批次满足 Source_Rows == Success_Rows + Quarantine_Rows,不匹配即触发 Sev-1。
  • 安全与审计:SHA-256 主键哈希结合语义相似度的混合指纹防止误合并;dbt 测试把关每次晋升;结构化 JSON 审计日志记录 [Row_ID, Old_Value, New_Value, Lambda_Applied, Confidence_Score, Model_Version, Timestamp]。

使用方式

工作流分为五步:接收异常行、语义压缩、离线 SLM 生成修复逻辑、集群范围向量化执行、对账与审计。资料中提供了各步骤的示例代码,包括使用 SentenceTransformer 和 ChromaDB 聚类、通过 ollama.chat 调用本地模型并校验输出、用 pandas 向量化应用修复、以及 reconciliation_check 对账函数。执行前会拒绝不以 lambda 开头或包含 import、exec、eval、os.、subprocess 的输出;置信度低于 0.75 的修复转入人工复核。

适用场景

适用于企业内需要处理敏感数据(医疗记录、金融数据、个人身份信息)的数据修复任务,尤其是异常量大、模式重复、要求可审计和可回滚的场景。

限制

该智能体仅工作在修复层,不负责通用数据工程、管道编排或数仓架构。资料未提供具体收费、价格、平台支持范围或性能基准数据。