SuperAPI AI 工具集

systemic-ingestion-normalization

数据与分析

查看项目

更新于 10-15 09:42

技能介绍

用途

这是「五阶段结构改造协议(pentaphase structural-overhaul protocol)」的第 4 阶段。目标是把遗留实体(legacy entities)迁移进已配置好的目标环境:在不损坏两侧数据的前提下,清洗、规范化并加载既有数据基底(substrate)。阶段 3 的环境规格文件描述目的地;本阶段负责把现有基底清洗、规范化并载入其中。

前置条件

开始前需读取全部四个文件:

  • <working-dir>/substrate-context.md 存在。
  • <working-dir>/phase-1-landscape-report.md 存在(用于源侧资产清单)。
  • <working-dir>/phase-2-taxonomy-model.md 存在(用于目标 schema)。
  • <working-dir>/phase-3-environment-spec.md 存在且已通过第 3 阶段关卡。
  • 阶段 3 描述的环境已实际实例化且可达。若不可达,停止并告知用户——对不存在的环境执行摄入不符合该协议。

四条工作流

工作流 1 — 清除冗余

从遗留基底中过滤掉重复、过时或非标准的系统输入。每轮记录:按名称说明过滤对象(精确重复 / 模糊重复 / 过时 / 非标准 / 损坏)、检测方法(哈希相等、带阈值的模糊匹配、超过 N 天、schema 一致性检查、人工复核)、动作(删除 / 归档 / 隔离 / 合并 / 保留并标记)、计数(检查数、命中数、处理数)、以及 3–5 个被处理样本供抽查。必须保留清除记录:仅追加的清除日志可避免不可恢复的错误;未归档不得硬删除。

工作流 2 — 补齐与对齐

迁移前对所有遗留实体应用强制属性。每轮补齐记录:目标属性(对应阶段 2 的哪个属性)、来源(遗留字段、派生、查表、默认值、人工)、覆盖率(可自动补齐的比例)、人工队列(需人工输入的比例及其呈现方式)。几乎总需要处理的补齐包括:阶段 2 新加的通用 schema 属性(如遗留基底未记录归属则为 owner)、状态规范化(遗留自由文本状态 → 新枚举)、标识符对齐(遗留 ID → 新 ID 空间,并保留映射表)、关系重建(遗留隐式链接 → 显式关系)。每个触及数据的补齐都保留「变更前后」记录,以便审计确认没有值被静默修改。

工作流 3 — 执行摄入

以结构化、分批的方式把条目传入新环境,明确划分阶段:

  • 阶段 4a — 试点批次:小规模代表性切片(1–5% 条目),跑完整验证流水线,检查错误,必要时调整补齐/验证规则。
  • 阶段 4b — 批量批次:处理剩余部分,批次大小需适配内存并支持逐批回滚。记录批次大小与并发度。
  • 阶段 4c — 尾部/边缘情况:此前批次失败、被提出需人工处理的条目。

每批记录:批次 ID、尝试条目数、成功条目数、被拒条目数(含拒绝原因类别)、墙钟耗时、任何回滚或补救措施。摄入运行必须幂等——若某批中途失败,重跑不得重复已摄入条目。

工作流 4 — 审计完整性

运行自动化与人工检查,确保零数据损坏。

自动化检查:

  • 计数校验——范围内的遗留条目数 vs. 新环境中存在的条目数(扣除清除数)
  • 标识符映射完整性——每个遗留 ID 都映射到新 ID(或被记录为有意丢弃)
  • Schema 一致性——每个新实体都通过阶段 3 验证规则
  • 关系完整性——每个关系两端都存在,无孤立项
  • 样本保真度——随机抽取 N 个条目,在遗留与新环境间深度比对

人工检查:

  • 利益相关方抽查——由 substrate-context.md 中指定的运营角色复核小样本并确认保真度
  • 边缘情况复核——补齐过程中需特殊处理的任何条目由人工复核

完整性审计必须给出结论:PASS / PASS-WITH-CAVEATS / FAIL。FAIL 意味着摄入回滚到摄入前快照。

编写阶段 4 摄入报告

把四条工作流合并为单个文件 <working-dir>/phase-4-ingestion-report.md,结构为:标题「Phase 4 — Ingestion Report」,含 Substrate、Date range、Preconditions、Postconditions(准备好进入第 5 阶段 governance-evolution-protocol);第 1 节清除轮次(逐轮摘要与计数);第 2 节补齐轮次(逐轮摘要与覆盖率);第 3 节摄入批次(3.1 试点、3.2 批量、3.3 尾部/边缘情况);第 4 节完整性审计(4.1 自动化检查结果表、4.2 人工检查、4.3 结论 PASS | PASS-WITH-CAVEATS | FAIL 及理由);第 5 节留给第 5 阶段的开放问题(摄入中浮现的运营顾虑或治理缺口的明确清单)。

关卡标准(审计员将检查)

当且仅当满足以下条件,报告通过第 4 阶段关卡:至少记录了一轮清除(即使零命中,该轮也证明问题被提出);已摄入实体 100% 补齐了通用 schema 属性,无实体缺必需字段;试点批次先于批量批次运行,顺序明确,且试点错误在批量前触发补齐/验证调整;计数校验成立——legacy_in_scope − purged = new_present(在记录的容差内,理想为 0);完整性审计结论存在且为 PASS 或 PASS-WITH-CAVEATS——FAIL 表示摄入未完成,报告不应以最终形态存在;第 5 阶段开放问题一节存在。

反模式

  • 不要跳过试点批次。不经试点的批量加载会让静默损坏大规模进入新环境。
  • 不要破坏性补齐。每次补齐必须能从审计日志逆转;不可逆转就无法安全重跑。
  • 不要静默丢弃验证失败的条目。它们进入带原因码的隔离队列,而非 /dev/null。
  • 不要在利益相关方抽查前宣布 PASS。自动化检查验证 schema 一致性,人验证语义保真度,两者都必需。

另见

  • references/deduplication-strategies.md——精确、模糊与语义重复检测
  • references/integrity-audits.md——计数校验、映射完整性、样本保真度模式