Kodosumi 是一个面向生产环境的分布式运行时环境,用于管理和执行企业级规模的智能体服务。它基于 Ray 构建,旨在帮助用户部署、编排和扩展 AI 智能体服务,覆盖智能体执行、流水线和可观测性。
【用途】 Kodosumi 的核心用途是让 AI 智能体能够大规模、可靠且快速地运行。它定位于企业级场景,从第一天起就为生产环境而设计,适合需要将智能体服务投入实际运行并横向扩展的团队。
【主要能力】
- 可扩展性:通过 Ray 实现,支持本地部署、并行运行流水线以及微调,能够随需求扩展。
- 实时监控:通过 Ray dashboard 提供内置可观测性,可查看智能体运行和资源使用情况。
- 无供应商锁定:Kodosumi 是开源、框架无关且跨平台可移植的,用户可以使用任何偏好的 AI 框架。
- 极简配置:只需一个 YAML 配置文件,即可定义依赖、环境变量并进行部署。
【核心概念】 Agent:一个能够执行特定任务或服务的自主对象,是 Kodosumi 中的基本构建块,每个 Agent 封装专门能力,可被编排到更大的工作流中。 Flow:自动化流程、工作流或相互连接的任务系统,定义多个 Agent 如何协调、在步骤之间传递数据以完成复杂目标。 Agentic Service:一个自包含、可部署的单元,集成一个或多个 Flow,是将要部署到 Kodosumi 的实体,把 Agent、Flow 和配置打包成单一运行时。
【使用方式】 安装命令为 pip install kodosumi。根据官方示例,可以从 kodosumi 导入 Agent 和 Flow,定义 Agent 类(如 name、model),创建 Flow 并传入 agents 列表,然后调用 flow.deploy() 部署,示例注释说明其运行在 Ray 上。
【适用场景】 需要在企业规模下运行 AI 智能体服务的场景,包括多智能体编排、并行流水线执行、对智能体运行和资源使用进行实时监控,以及希望在本地部署后平滑扩展到更大规模并避免供应商锁定的团队。
【限制】 用户资料未提供关于定价、平台支持范围、具体性能指标或更多限制的说明,暂未提供。