SuperAPI AI 工具集

agentops

AgentOps 是一个用于 AI 智能体监控、LLM 成本追踪与基准测试的 Python SDK,支持从原型到生产的开发流程。它可自动获取所有 LLM 调用的分析数据,并可在 AgentOps 仪表盘中查看会话。AgentOps 提供一流的开发者体验,通过极少量代码(逐行添加)即可为智能体、工具和函数添加强大的可观测性,支持输入/输出记录、异常处理、异步/等待函数、生成器函数以及自定义属性和名称。它集成了大多数 LLM 和智能体框架,包括 CrewAI、Agno、OpenAI Agents SDK、Langchain、Autogen、AG2、CamelAI、Cohere、Anthropic、Mistral、LiteLLM、LlamaIndex、Llama Stack、SwarmZero 等。AgentOps 应用本身基于 MIT 许可证开源。

访问官网

工具介绍

AgentOps 是面向 AI 智能体开发者的监控与可观测性工具,以 Python SDK 形式提供,帮助开发者构建、评估和监控 AI 智能体,覆盖从原型到生产的全过程。其核心目标是解决 AI 智能体运行慢、成本高、不可靠的问题。

主要能力与用途

  • 全面可观测性:追踪 AI 智能体的性能、用户交互和 API 使用情况。
  • 实时监控:通过会话回放、指标和实时监控工具获得即时洞察。
  • 成本控制:监控和管理 LLM 及 API 调用的花费。
  • 故障检测:快速识别并响应智能体故障和多智能体交互问题。
  • 工具使用统计:通过详细分析了解智能体如何使用外部工具。
  • 会话级指标:通过综合统计获得智能体会话的整体视图。
  • 评估与调试:资料中列出了评估路线图和调试路线图(Roadmap),具体功能细节暂未提供。

使用方式 初始化 AgentOps 客户端后,即可自动获得所有 LLM 调用的分析数据,所有会话可在 AgentOps 仪表盘中查看。开发者可通过一行行代码逐步为智能体、工具和函数添加可观测性,所有装饰器均支持输入/输出记录、异常处理、异步/await 函数、生成器函数以及自定义属性和名称。

对于 CrewAI 智能体,只需在环境中设置 AGENTOPS_API_KEY,两行代码即可在 AgentOps 仪表盘中获得自动监控。对于 AG2(原 AutoGen)智能体,设置 AGENTOPS_API_KEY 并调用 agentops.init() 即可添加完整的可观测性和监控。CAMEL、SwarmZero 等框架同样通过设置 AGENTOPS_API_KEY 并初始化 AgentOps 来追踪和分析。Langchain 需安装为可选依赖,然后导入并设置 handler,还支持异步 handler。

支持集成的框架与模型(基于资料列举)

  • OpenAI Agents SDK:原生集成 Python 和 TypeScript,支持构建带工具、交接(handoffs)和护栏(guardrails)的多智能体系统。
  • CrewAI:两行代码实现可观测性。
  • AG2(原 AutoGen):两行代码添加完整可观测性。
  • CamelAI:追踪和分析 CAMEL 智能体。
  • Langchain:无缝协作,支持异步 handler。
  • Cohere(>=5.4.0):一等支持,持续集成。
  • Anthropic Python SDK(>=0.32.0):追踪智能体,支持异步流式。
  • Mistral Python SDK(>=0.32.0):追踪智能体。
  • LiteLLM(>=1.3.1):支持 100+ LLM,统一输入/输出格式。
  • LlamaIndex:构建上下文增强的生成式 AI 应用。
  • Llama Stack Python Client(>=0.0.53):监控智能体应用。
  • SwarmZero:多智能体框架追踪分析。

运行完整应用 若需在本地运行完整的 AgentOps 应用(仪表盘 + API 后端),可参考 app/README.md 中的设置指南。AgentOps 应用采用 MIT 许可证开源,代码位于 app 目录。

适用场景 适用于需要监控、评估和优化 AI 智能体的开发团队,尤其是使用上述框架构建多智能体系统、需要追踪 LLM 调用成本、检测智能体故障、分析工具使用情况的场景。既适用于原型开发阶段,也适用于生产环境。

限制与暂未提供的信息 资料中未提供具体收费模式、价格、平台支持范围(除 Python 与 TypeScript 集成提及外)、性能数据或效果指标。评估和调试功能仅有路线图,具体能力暂未提供。