SuperAPI AI 工具集

fastagency

FastAgency 是一个开源框架,旨在加速多智能体 AI 工作流从原型到生产的过渡。它并非另一个智能体 AI 框架,而是为使用 AG2(原 AutoGen)框架编写的智能体工作流提供统一的编程接口,帮助开发者在开发和生成环境中部署这些工作流。通过少量代码,即可创建与智能体交互的网页聊天应用或 REST API 服务。若需扩展工作负载,FastAgency 可帮助部署完全分布式的系统,使用内部消息代理协调多台机器、多个数据中心,且只需对本地开发设置进行少量代码更改。

访问官网

工具介绍

FastAgency 是一个开源框架,旨在加速多智能体 AI 工作流从原型到生产的过渡。它并非另一个智能体 AI 框架,而是为使用 AG2(原 AutoGen)框架编写的智能体工作流提供统一的编程接口,帮助开发者在开发和生成环境中部署这些工作流。通过少量代码,即可创建与智能体交互的网页聊天应用或 REST API 服务。若需扩展工作负载,FastAgency 可帮助部署完全分布式的系统,使用内部消息代理协调多台机器、多个数据中心,且只需对本地开发设置进行少量代码更改。

主要能力:

  • 跨 UI 的统一编程接口:核心工作流只需开发一次,即可在多种用户界面中复用,无需重写代码。支持基于控制台的应用(ConsoleUI)和基于 Web 的应用(MesopUI)。
  • 无缝外部 API 集成:通过少量代码即可导入 OpenAPI 规范,并连接到智能体,简化了为 AI 智能体增强实时数据、外部处理或第三方服务的过程。
  • 用于持续集成的 Tester 类:提供 Tester 类,使开发者能够为多智能体工作流编写和执行测试,便于集成到 CI 管道中,确保工作流在扩展至生产环境时保持功能正常。
  • 命令行界面(CLI):提供强大的 CLI,用于直接从终端编排和管理多智能体应用,可快速运行工作流、传递参数并监控智能体交互,适合自动化部署和集成到 DevOps 管道。

支持的运行时:目前仅支持 AG2(原 AutoGen)。

支持的用户界面:

  • Console:使用 ConsoleUI 接口进行基于命令行的交互,适合在文本环境中开发和测试工作流。
  • Mesop:使用 MesopUI 进行基于 Web 的应用,适合创建具有用户友好界面的 Web 应用。

支持的网络适配器:

  • 通过 FastAPI 的 REST API:使用 FastAPIAdapter 通过 FastAPI 服务器服务工作流,支持多工作进程,并使用 ASGI 服务器。
  • 通过 FastStream 的 NATS.io:使用 NatsAdapter 利用 NATS.io MQ 消息代理,实现高度可扩展的生产级设置,适合 VPN 环境,或与 FastAPIAdapter 结合以安全方式服务公共工作流。

使用方式: 强烈建议使用 Cookiecutter 设置 FastAgency 项目。它会创建项目文件夹结构、默认工作流,自动安装所有必要依赖,并创建可用于 Visual Studio Code 开发的 devcontainer。 安装 Cookiecutter:pip install cookiecutter 运行 cookiecutter 命令:cookiecutter https://github.com/ag2ai/cookiecutter-fastagency.git 按照提示选择项目名称、应用类型(fastapi+mesop、mesop、nats+fastapi+mesop)、Python 版本(3.12、3.11、3.10)和认证方式(none、google)。 设置 LLM API 密钥,例如 OpenAI:export OPENAI_API_KEY=openai_api_key_here 在 VS Code 中打开生成的项目:code my_fastagency_app 在 devcontainer 中重新打开项目后,运行测试验证设置:pytest -s

工作流开发:在 my_fastagency_app/workflow.py 中定义工作流,指定智能体如何交互及做什么。示例代码设置了一个简单的学生与教师学习聊天。

本地测试:使用 MesopUI 在本地测试工作流,代码位于 my_fastagency_app/local/main_mesop.py。在 Linux 和 MacOS 上运行 Mesop 应用,在 Windows 上使用相应命令。打开浏览器访问 http://localhost:8000 即可使用图形界面手动启动、运行、测试和调试 autogen 工作流。

构建 Docker 镜像:使用 Cookiecutter 创建项目后,运行提供的脚本即可构建 Docker 镜像。 运行 Docker 镜像:同样运行提供的脚本即可运行 Docker 容器。

部署到 Fly.io:Cookiecutter 生成了内置脚本,可将工作流部署到 Fly.io。需先检查并保留应用名称,然后测试部署。正式部署应使用 GitHub Actions,将代码推送到 GitHub 仓库的 main 分支,GitHub Actions 会自动部署到 Fly.io。需在 GitHub 仓库中设置 Fly.io API 令牌和 OpenAI API 密钥等机密。

适用场景:适合使用 AG2(原 AutoGen)框架的开发者,希望将 Jupyter notebook 原型无缝扩展为功能完整的生产级应用。无论是构建交互式控制台工具、开发功能齐全的 Web 应用,还是编排大规模多智能体系统,FastAgency 都能帮助更快、更可靠、更灵活地部署。

限制:目前仅支持 AG2(原 AutoGen)运行时。团队正在积极扩展能力,计划集成其他框架、网络提供商和 UI 框架。