Mixture of Agents (MoA) 是一个开源项目，旨在通过组合多个大语言模型（LLM）的集体优势来提升最终回答的质量。该方法采用分层架构，每一层包含若干个 LLM 智能体，通过多轮聚合与精炼，生成比单一模型更优的响应。根据官方资料，MoA 在仅使用开源模型的情况下，于 AlpacaEval 2.0 上取得了 65.1% 的得分，而 GPT-4 Omni 的得分为 57.5%，实现了 7.6% 的绝对提升。
用途： MoA 主要用于提升 LLM 在复杂任务上的回答质量，适用于需要高质量文本生成、多轮对话和模型集成评估的场景。它能够将多个参考模型的输出进行聚合，生成更准确、更全面的最终回答。
主要能力：
- 多层 MoA 架构：支持 2 层及以上的分层处理，每层包含多个 LLM 智能体，逐层精炼回答。
- 交互式 CLI 演示：提供一个多轮聊天机器人演示，最终响应由多个参考模型聚合而成，支持多轮交互。
- 评估脚本：包含 AlpacaEval 2、MT-Bench 和 FLASK 的评估代码，方便复现论文结果。
- 在 AlpacaEval 2.0 和 MT-Bench 上均取得领先排名。在 FLASK 细粒度评估中，MoA 在无害性、鲁棒性、正确性、效率、事实性、常识、洞察力、完整性等维度上显著优于原始 Qwen1.5-110B-Chat，并在正确性、事实性、洞察力、完整性和元认知方面优于 GPT-4 Omni。
使用方式： 快速入门需要安装 Together Python 库并设置 API 密钥：
- 安装：pip install together
- 导出 API 密钥：export TOGETHER_API_KEY=<你的密钥>
- 运行示例：python moa.py（包含 2 层、4 个 LLM 的简单示例）
多层 MoA 示例可运行 advanced-moa.py，支持 3 层及以上。
交互式 CLI 演示步骤：
- 导出 API 密钥：export TOGETHER_API_KEY={your_key}
- 安装依赖：pip install -r requirements.txt
- 运行脚本：python bot.py 在 ">>>" 提示符下输入指令，系统会使用预定义的参考模型处理输入，并基于聚合输出生成响应，支持多轮对话。
可选配置参数包括： --aggregator：用于最终响应生成的主模型。 --reference_models：用作参考的模型列表。 --temperature：控制响应生成的随机性。 --max_tokens：响应中的最大 token 数。 --rounds：处理输入的轮数（轮数 = MoA 层数 - 1）。 --num_proc：并行运行的进程数，以加快执行速度。 --multi_turn：布尔值，切换多轮交互能力。
评估运行：项目提供了运行 AlpacaEval 2、MT-Bench 和 FLASK 评估的脚本，包含必要的修改。
适用场景：
- 需要高质量文本生成的研究与开发。
- 多模型集成与对比评估。
- 构建多轮对话系统。
- 复现论文中的基准测试结果。
限制：
- 依赖 Together API 和 API 密钥。
- 未提供关于收费、价格或具体性能保证的详细信息，暂未提供。
- 官方资料未说明支持的其他平台或本地部署方式。
- 项目基于 Apache 2.0 许可证。
