用途
create-skill-autoresearch 是一个“工厂”型技能,用于锻造生产级、经过基准测试、可自主改进并经验证的智能体技能(agent skills)。它面向需要创建高质量技能的场景,通过金标准驱动的自动研究、多智能体验证和结构化共识来完成。
主要能力
该工厂编排 4 种智能体角色,走完 5 个阶段:
- 访谈(Interview):由 ORCHESTRATOR 发现目的、金标准与范围。
- 研究(Research):由 RESEARCHER(N 个并行)研读领域材料、构建档案、提出评分标准。
- 起草(Draft):由 BUILDER 设计结构、生成 SKILL.md、测量基线。
- 自动研究(Autoresearch):由 BUILDER + autoresearch 技能,依据金标准迭代技能(LLM 作为评判者,或对程序性技能使用客观真实世界指标)。
- 验证(Verify):由 PANEL(3 个子智能体)进行事前验尸、小组评分、共识、发布或迭代。
关键约束:BUILDER 与 PANEL 从不共享上下文。评审小组只接收技能输出、金标准和评分标准,不受构建过程偏见影响。
与 create-skill 的关系
该工厂扩展而非替代官方单次生成式技能创建器(Anthropic 的 Skills 最佳实践与 skill-creator;Cursor 的 create-skill)。它增加了单次生成器无法提供的内容:研究档案、金标准基准测试、自主改进循环和独立多智能体验证。其产出的技能遵循相同的官方约定。
配套技能
工厂在运行时编排这些同级技能:autoresearch(第 4 阶段改进循环)、premortem(第 5 阶段风险检查)和 handoff(跨会话连续性);第 5 阶段的小组/共识设计借鉴 llm-council。在此 harness 中它们被 vendored 到 .agents/skills/ 下。若单独安装此技能,需一并安装这些配套技能。工厂的 craft 层(references/skill-craft-principles.md)提炼自 writing-great-skills(mattpocock/skills,MIT),harness 将其 vendored 到 .agents/skills/ 下。第 5 阶段在 tribunal 安装后会委托给它。
使用方式
第 1 阶段:访谈
通过结构化问题发现用户需求,不要假设——要提问。一次问一个主题并记录答案。
需要发现的内容包括:目的与领域、金标准、研究材料、范围与约束、是否已有现成技能。金标准最少 3 个,少于 3 个存在风险,需警告用户并提供替代方案。
确认后,在 builds/<skill-name>/ 创建构建工作区,含三个归属区:input/(用户放入金标准与研究材料)、work/(工厂生成的一切)、output/<skill-name>/(完成的技能,可发布)。
第 2 阶段:研究
在编写任何技能代码前彻底研究领域。按相关性聚类研究材料,每个聚类启动一个 explore 子智能体。聚类上限 5-7 个,最少 2 个。每个子智能体深入阅读材料,将发现提炼为 work/research/ 中的研究笔记。之后综合为 00-synthesis.md,并起草 work/evaluation/rubric.yaml。
评分标准始终包含这些通用维度:correctness、completeness、clarity、consistency、predictability。再添加 3-5 个领域特定维度(共 5-10 个)。
第 3 阶段:起草
先设计后编写,先编写后测量。创建 DESIGN.md,对设计进行对抗性拷问,然后生成 SKILL.md 草稿。写前运行预检清单(硬约束):name <= 64 字符、description <= 1024 字符、正文 < 500 行、渐进式披露、文件引用仅一层深等。
构建评估脚本 work/evaluation/evaluate.sh,接收金标准测试用例路径,提取输入,调用技能(以 SKILL.md 作为系统提示调用 LLM),用 LLM 作为评判者与金标准比较,输出 METRIC 行。
确定性评估与 LLM 评判:并非每个维度都需要 LLM 评判。尽可能优先使用确定性检查(行数、frontmatter 验证、链接完整性、模式覆盖、结构一致性)。仅在需要主观判断的维度使用 LLM 作为评判者。若无 LLM API,回退到仅确定性评分并记录警告。
程序性/智能体技能:有些技能不一次性生成产物,而是指示智能体对真实产物执行多步任务。对这些技能,应通过针对真实产物的执行和客观真实世界指标来评估。
多评判者评估(预算允许时推荐):用 2-3 个不同 LLM 模型作为评判者,平均其各维度分数,跟踪每个评判者的方差。
测量基线:在测试用例上运行 evaluate.sh,记录基线分数(实验 0)。
第 4 阶段:自动研究
调用 autoresearch 技能,依据评估评分标准迭代技能草稿。配置参数包括目标、指标命令、主指标、方向、范围内/外文件、约束、预算、检查。
数据划分:金标准 >= 10 时,70% 训练、20% 验证、10% 测试;3-9 时采用留一法轮换。
过拟合检测:自适应地对验证集运行 evaluate.sh。若训练提升而验证下降超过 0.05,警告用户。
结束循环是工厂的决定,不是循环的。置信度合格的平台期是终止性的。
第 5 阶段:验证
进行事前验尸、小组评分、共识、发布或迭代。
适用场景
适用于需要创建生产级、经过基准测试和验证的智能体技能的场景,尤其是需要金标准驱动、自主改进循环和独立多智能体验证的复杂技能开发。
限制
- 金标准最少 3 个,少于 3 个存在风险。
- 大型金标准集(100+)成本较高,需采用采样策略。
- 若无 LLM API,回退到仅确定性评分。
- 单独安装时需一并安装配套技能(autoresearch、premortem、handoff)。
- 具体收费、价格、平台等信息暂未提供。