AgentFlow 是一个可训练、集成工具的智能体框架，旨在克服当前工具增强推理方法在扩展性和泛化能力上的局限。与 Search-R1 等训练单一 LLM 交错推理步骤与工具调用的主流方法不同，AgentFlow 引入了模块化智能体系统，包含四个专门模块：Planner（规划器）、Executor（执行器）、Verifier（验证器）和 Generator（生成器）。这些模块通过演化记忆和集成工具在多轮交互中协同工作。
主要能力：
- 模块化智能体系统：四个专门模块协调工作，通过演化记忆和工具包在多轮中解决复杂推理任务。
- 多工具集成：无缝连接多种工具生态系统，包括 base_generator、python_coder、google_search、wikipedia_search、web_search 等。
- Flow-GRPO 算法：基于流的组精炼策略优化，支持稀疏奖励下的长视野推理任务，实现流内智能体优化。
- 已验证结果：AgentFlow（7B 骨干）在 10 个基准测试上超越顶级基线，搜索任务 +14.9%，智能体推理 +14.0%，数学 +14.5%，科学 +4.1%，甚至超越约 200B 参数的 GPT-4o。
使用方式：
- 环境要求：推荐 Python 3.11。
- 安装设置：需配置环境变量，从 agentflow/.env.template 复制 .env.template 并重命名为 .env，放置在 agentflow/ 文件夹中，更新 API 密钥：OPENAI_API_KEY（用于评估响应）、GOOGLE_API_KEY（用于 Google 搜索工具）、DASHSCOPE_API_KEY（可选，用于调用 Qwen-2.5-7B-Instruct 作为智能体和工具的引擎）、TOGETHER_API_KEY（可选，国际用户推荐的替代方案）。也可通过 vLLM 服务 Qwen2.5-7B-instruct 模型。
- 快速推理：运行前建议验证 API 密钥和环境配置，可运行命令测试所有集成工具和 LLM 引擎。快速体验系统可运行 python quick_start.py。
- Flow-GRPO 训练（可选）：训练前建议验证工具、LLM 引擎和网络配置。混合两个数据集进行训练：NQ（自然问题）用于智能体搜索，DeepMath-103K 用于数学推理。使用 tmux 启动训练。所有训练超参数在 train/config.yaml 中配置。提供全面日志监控训练。
- 基准测试：使用 VLLM 部署训练好的规划器模型，在特定基准任务上运行推理。每个任务文件夹包含数据、日志和结果。
- 使用自有模型：AgentFlow 支持为每个智能体模块使用不同的 LLM 引擎。修改对应 run.sh 脚本中的 llm_engine_name 参数。其他智能体（执行器、验证器、生成器）默认使用固定 LLM 引擎（通过 DashScope 的 Qwen-2.5-7B-Instruct），可修改 agentflow/agentflow/models/planner.py:19 中的 self.llm_engine_fixed，以及 agentflow/agentflow/solver.py:232 中 Executor 实例化的 llm_engine_name 参数。
适用场景：
- 需要复杂推理和工具调用的智能体任务，如搜索、数学、科学问题解答。
- 长视野推理任务，尤其在稀疏奖励环境下。
- 研究和开发可训练智能体系统，优化规划与工具使用。
限制：
- 需要 API 密钥和网络配置，可能产生费用（资料未提供具体价格）。
- 需要 Python 3.11 环境，建议使用 GPU 支持（如 Lambda 提供 GPU 支持）。
- 训练和推理过程需要一定技术背景，配置较为复杂。
项目已获 ICLR 2026 和 NeurIPS 2025 高效推理研讨会接收，并在 HuggingFace Daily Paper 中排名第二。
