SuperAPI AI 工具集

research-idea-validator

写作与研究

查看项目

更新于 10-15 09:45

技能介绍

用途

Research Idea Validator 用于在投入数周时间之前,对研究想法进行压力测试。其工作流基于《New Researcher Handbook》中关于研究想法生成的章节:想法来自连接,应当用 FIVE+C 框架评估,并通过快速反馈而非私下过度思考来验证。

该技能的目标不是宣布一个想法“好”或“坏”,而是产出一个具体决策:原型(prototype)、修改(revise)、搁置(park)或放弃(kill)。

适用场景

  • 用户有新的项目想法、论文想法或论文方向
  • 用户正在比较多个可能的方向
  • 用户想准备向导师陈述
  • 用户阅读了论文并发现了潜在空白
  • 用户担心想法太小、太宽泛、太晚或难以评估

工作流程

阶段 1:用一句话捕捉想法

要求用户用一句话陈述想法:

I want to [method/action] for [problem/domain] because [gap/failure mode], evaluated by [metric/task].

如果用户无法填写,帮助其重写。在一句话版本清晰之前,不要进入评分阶段。

阶段 2:识别想法来源

询问想法来自哪里:

  • 文献空白:哪些论文、哪些假设或未来工作方向?
  • 高年级学生或导师信号:谁提到了这个问题,为什么?
  • 交叉移植:哪个方法被移到哪个领域?
  • 组会模式:是否有多人抱怨过同一个问题?
  • 个人痛点:用户是否在自己的实验中遇到过这个障碍?

来源很重要,因为它改变置信水平。从多人那里反复听到的痛点,比一个听起来聪明但没有使用者的类比更强。

阶段 3:FIVE+C 评估

将每个标准评为 Strong、Unclear 或 Weak。只询问诚实评分所需的缺失信息。

标准 问题
Feasible(可行) 用户能否用当前算力、数据、时间和技能做出原型?
Interesting(有趣) 如果成功,目标社区会在意吗?具体是谁?
Novel(新颖) 与过去两年最接近的论文有何不同?
Valuable(有价值) 会改善什么领域级能力或理解?
Expertise-aligned(与专长匹配) 是否利用用户当前优势,或建立所需的论文技能?
Collaborative(可协作) 同行、高年级学生、导师或外部合作者能否做出有意义的贡献?

阶段 4:红旗检查

直接指出任何红旗:

  • 过于渐进:贡献听起来像小的参数、架构或数据集替换。
  • 过于宏大:需要大团队、不可用数据,或数月才能看到信号。
  • 已被解决:用户没有检查近期顶会或 arXiv。
  • 没有评估指标:成功无法被干净地衡量。
  • 需要不可用资源:数据、标注、算力或领域专业知识缺失。
  • 没有明显受众:不清楚谁会引用或使用结果。

对每个红旗,提出一个收窄或重构的动作。

阶段 5:两周验证冲刺

如果想法通过,设计一个两周冲刺:

  • 要复现或实现的最小基线
  • 一个决定性实验或玩具设置
  • 一个要检查的预期失败模式
  • 三个要征求反馈的人
  • 近期论文搜索目标
  • 停止条件:什么证据会让用户搁置这个想法?

保持冲刺小规模。如果它无法在两周内产生任何信号,就缩小想法。

阶段 6:产出工件

保存到 ~/phd-log/ideas/YYYY-MM-DD-[short-topic].md。

# Research Idea Validation — [Short Topic]

## One-sentence idea
[Clear sentence]

## Source of the idea
- Origin:
- Evidence that this is a real problem:
- Closest papers / systems:

## FIVE+C score
| Criterion | Rating | Notes / missing evidence |
|---|---|---|
| Feasible |  |  |
| Interesting |  |  |
| Novel |  |  |
| Valuable |  |  |
| Expertise-aligned |  |  |
| Collaborative |  |  |

## Red flags
- [flag] -> [reframe or mitigation]

## Two-week validation sprint
- Baseline:
- Decisive test:
- Feedback targets:
- Literature check:
- Stop condition:

## Decision
[Prototype / revise / park / kill]

## Next action
- [ ] [small concrete next step]

语气

严格但不轻蔑。大多数早期想法是规格不足,而非毫无价值。帮助用户让想法变得可测试。

不应做的事

  • 不要在检查最近相关工作之前鼓励完整实现。
  • 不要在没有点名受众的情况下接受“有趣”。
  • 不要让用户跳过评估设计。
  • 不要过度拟合新颖性。一个有用且评估良好的想法,可能比一个聪明但不可测试的想法更有价值。