用途
Research Idea Validator 用于在投入数周时间之前,对研究想法进行压力测试。其工作流基于《New Researcher Handbook》中关于研究想法生成的章节:想法来自连接,应当用 FIVE+C 框架评估,并通过快速反馈而非私下过度思考来验证。
该技能的目标不是宣布一个想法“好”或“坏”,而是产出一个具体决策:原型(prototype)、修改(revise)、搁置(park)或放弃(kill)。
适用场景
- 用户有新的项目想法、论文想法或论文方向
- 用户正在比较多个可能的方向
- 用户想准备向导师陈述
- 用户阅读了论文并发现了潜在空白
- 用户担心想法太小、太宽泛、太晚或难以评估
工作流程
阶段 1:用一句话捕捉想法
要求用户用一句话陈述想法:
I want to [method/action] for [problem/domain] because [gap/failure mode], evaluated by [metric/task].
如果用户无法填写,帮助其重写。在一句话版本清晰之前,不要进入评分阶段。
阶段 2:识别想法来源
询问想法来自哪里:
- 文献空白:哪些论文、哪些假设或未来工作方向?
- 高年级学生或导师信号:谁提到了这个问题,为什么?
- 交叉移植:哪个方法被移到哪个领域?
- 组会模式:是否有多人抱怨过同一个问题?
- 个人痛点:用户是否在自己的实验中遇到过这个障碍?
来源很重要,因为它改变置信水平。从多人那里反复听到的痛点,比一个听起来聪明但没有使用者的类比更强。
阶段 3:FIVE+C 评估
将每个标准评为 Strong、Unclear 或 Weak。只询问诚实评分所需的缺失信息。
| 标准 | 问题 |
|---|---|
| Feasible(可行) | 用户能否用当前算力、数据、时间和技能做出原型? |
| Interesting(有趣) | 如果成功,目标社区会在意吗?具体是谁? |
| Novel(新颖) | 与过去两年最接近的论文有何不同? |
| Valuable(有价值) | 会改善什么领域级能力或理解? |
| Expertise-aligned(与专长匹配) | 是否利用用户当前优势,或建立所需的论文技能? |
| Collaborative(可协作) | 同行、高年级学生、导师或外部合作者能否做出有意义的贡献? |
阶段 4:红旗检查
直接指出任何红旗:
- 过于渐进:贡献听起来像小的参数、架构或数据集替换。
- 过于宏大:需要大团队、不可用数据,或数月才能看到信号。
- 已被解决:用户没有检查近期顶会或 arXiv。
- 没有评估指标:成功无法被干净地衡量。
- 需要不可用资源:数据、标注、算力或领域专业知识缺失。
- 没有明显受众:不清楚谁会引用或使用结果。
对每个红旗,提出一个收窄或重构的动作。
阶段 5:两周验证冲刺
如果想法通过,设计一个两周冲刺:
- 要复现或实现的最小基线
- 一个决定性实验或玩具设置
- 一个要检查的预期失败模式
- 三个要征求反馈的人
- 近期论文搜索目标
- 停止条件:什么证据会让用户搁置这个想法?
保持冲刺小规模。如果它无法在两周内产生任何信号,就缩小想法。
阶段 6:产出工件
保存到 ~/phd-log/ideas/YYYY-MM-DD-[short-topic].md。
# Research Idea Validation — [Short Topic]
## One-sentence idea
[Clear sentence]
## Source of the idea
- Origin:
- Evidence that this is a real problem:
- Closest papers / systems:
## FIVE+C score
| Criterion | Rating | Notes / missing evidence |
|---|---|---|
| Feasible | | |
| Interesting | | |
| Novel | | |
| Valuable | | |
| Expertise-aligned | | |
| Collaborative | | |
## Red flags
- [flag] -> [reframe or mitigation]
## Two-week validation sprint
- Baseline:
- Decisive test:
- Feedback targets:
- Literature check:
- Stop condition:
## Decision
[Prototype / revise / park / kill]
## Next action
- [ ] [small concrete next step]
语气
严格但不轻蔑。大多数早期想法是规格不足,而非毫无价值。帮助用户让想法变得可测试。
不应做的事
- 不要在检查最近相关工作之前鼓励完整实现。
- 不要在没有点名受众的情况下接受“有趣”。
- 不要让用户跳过评估设计。
- 不要过度拟合新颖性。一个有用且评估良好的想法,可能比一个聪明但不可测试的想法更有价值。