LazyCraft 是一个基于 LazyLLM 构建的 AI Agent 应用开发与管理平台,旨在协助开发者以低门槛、低成本快速构建和发布大模型应用。
用途
LazyCraft 面向非开发者与技术团队,用于快速搭建多样化的 AI 应用,例如数据洞察师、文献综述生成器、代码理解助手等,并支持将应用发布到商店或通过 API 集成到业务系统中。
主要能力
- 全流程闭环:从应用创建、调试、发布到监控与 Bad Case 分析,完整覆盖研发链路,支持快速原型迭代直达生产部署。
- 灵活可插拔架构:核心模块可替换,兼容多种向量库与 RAG 策略,支持自定义知识库编排,包括定制离线解析策略和在线召回策略。
- 可视化组件画布:提供可视化组件画布,快速构建、调试和发布 AI 应用。
- 内置应用模板:内置应用模板,即开即用,帮助用户快速上手。
- 多模型服务集成:集成多家模型厂商的本地与在线模型服务,涵盖大语言模型、图文理解、文生图、语音转文字、文字转语音、向量模型、OCR 等。
- 模型管理:支持推理 → 微调 → 评测的完整流程,轻松切换模型。
- Prompt 管理:创建、编辑提示词,内置模板 + AI 辅助编写。
- 知识库:覆盖 Reader、Rewrite、Retriever、Rerank 等核心组件,覆盖从文档摄入到检索的完整链路;灵活配置 RAG 策略与多路召回;兼容多种文件格式:PDF、Word、PPT、Excel、CSV、TXT、JSON、HTML、Markdown、LaTeX。
- 工具与 MCP:支持自定义工具或 API 接入,可在画布中直接调用。
- 数据集:支持 json、csv、txt 导入;内置版本管理与模板下载;提供数据清洗、增强与标注能力。
- 权限与安全:提供权限控制与 API Key 管理;集成日志与审计,满足企业安全与合规需求。
- 标准化接口:提供标准化接口,可无缝集成至业务系统。
使用方式
- 通过 Docker 部署,可使用官方 dev-latest 镜像。
- 仅通过 localhost/127.0.0.1 访问时可以使用 HTTP;通过局域网 IP 或公网 IP 访问时必须使用 HTTPS,以保护数据传输安全。
- 如需启用 HTTPS 访问,执行以下步骤:
- 本配置提供的是自签证书的示例配置,浏览器会显示安全警告,点击“继续访问”即可。
- 如需使用 Let's Encrypt 或商业 CA 证书,请自行申请证书后,修改 docker/nginx/conf.d/default.conf 中的 SSL 证书路径配置。
- 如果在 mac 下 docker compose 命令找不到,则可以尝试通过 brew install --cask docker 安装 docker;或者通过 brew install docker-compose,此时要把 docker compose up -d 替换为 docker-compose up -d。
- 在 docker 启动后,可以通过 docker ps 命令观察启动状态,找到对应的 IP。
- 登录之后,会有一些预置的已发布应用,在使用这些应用之前,请确保它依赖的模型都被正确的配置好 Key。Sensenova 的模型需要同时申请 ak 和 sk,并且以 ak:sk 的形式配置。
- 注意:以下操作均在 Linux 环境下进行。
- 五、使用官方 dev-latest 镜像:我们会不定期更新将最新修改提交到 dev-latest 镜像中,并将其作为正式 release 前的最新版本。当镜像 tag 为 latest 时,docker compose up -d 默认会尝试从远端拉取最新的 latest,如果希望使用 latest 但不希望总是拉取更新可增加参数 --pull never。
适用场景
- 快速搭建数据洞察、文献综述、代码理解等 AI 应用。
- 需要低代码、组件化编排 AI 应用的团队。
- 需要自定义 RAG 策略与知识库编排的场景。
- 需要模型微调、部署与评测一体化的场景。
- 需要将 AI 应用通过 API 集成到业务系统的场景。
限制
- 通过局域网 IP 或公网 IP 访问时必须使用 HTTPS。
- 自签证书会触发浏览器安全警告。
- 使用预置应用前需确保依赖模型已正确配置 Key。
- 部分操作需在 Linux 环境下进行。
- 暂未提供其他限制信息。