Just-Chat 是一个用于快速创建和运行 LLM 智能体聊天应用的开源项目。其核心目标是让用户通过简单几步即可搭建并开始与自己的 AI 助手对话。
用途
Just-Chat 面向希望快速部署私有 AI 聊天助手的开发者或团队。它通过容器化方式封装了智能体运行、聊天界面和搜索能力,降低了环境配置的复杂度。
主要能力
- 一键启动:克隆仓库后运行 docker-compose up 即可启动整个应用。
- 智能体定制:通过编辑 chat_agent_profiles.yaml 文件配置智能体的个性与能力,示例智能体已提供。
- 工具扩展:在 /agent_tools/ 目录添加 Python 工具,为智能体增加额外功能与依赖。
- Web 聊天界面:启动后访问 http://localhost:3000 即可与智能体对话。
- 容器化运行:所有组件运行在 Docker 容器中,无需在宿主机安装 Python 或 Node.js。
- 模型支持:基于 just-agents 库从 YAML 初始化智能体,支持 DeepSeek Reasoner、ChatGPT、LLAMA3.3 等主流模型,但需要自行配置 API 密钥。默认提供免费的 Groq 密钥,但速率限制严格,建议使用自己的密钥。
- 语义搜索:集成 MeiliSearch,支持基于含义而非关键词的文档检索。可通过 API 索引 Markdown 文件,并在智能体系统提示中启用搜索功能。
- 数据导入导出:提供 MeiliSearch 转储脚本,支持备份和恢复搜索索引,便于在开发与生产环境之间同步数据。
使用方式
- 环境准备:安装 Docker 或 Podman(推荐 Podman,更现代且安全)。项目提供 Linux 和 Windows 的详细安装说明,以及 Ubuntu 22.04 的自动化脚本。
- 克隆仓库并启动:运行 docker-compose up(或使用 Podman 对应命令)。容器会以宿主机用户和组身份运行,避免权限问题,可通过修改 docker-compose.yml 中的 USER_ID 和 GROUP_ID 调整。
- 访问界面:在浏览器打开 http://localhost:3000 开始聊天。
- 自定义配置:编辑 chat_agent_profiles.yaml 定制智能体;在 /agent_tools/ 添加 Python 工具;修改 docker-compose.yml 进行高级设置。
- 语义搜索配置:启动后访问 localhost:9000/docs 使用 API 索引 Markdown 文件,然后在 chat_agent_profiles.yaml 中取消搜索相关系统提示的注释并设置索引名称。
- 数据同步:使用 scripts/meilisearch_dump.py 创建转储,通过 scp 或 rsync 传输到生产环境,并按照说明导入。Meilisearch 1.16+ 支持导出功能,可实现增量同步与冲突解决。
适用场景
- 快速搭建个人或团队内部的 AI 聊天助手。
- 需要为智能体添加自定义工具和知识库的开发者。
- 希望在不安装 Python/Node.js 的情况下运行 LLM 应用的环境。
- 需要语义搜索和文档检索能力的对话场景。
限制
- 需要 Docker 或 Podman 环境,且推荐至少 4GB 内存。
- 默认 Groq 密钥速率限制严格,建议自行获取 API 密钥。
- Ubuntu 22.04 自带的 Podman v3 不兼容,需手动安装 v4.9.3 或更高版本。
- 容器使用 :latest 标签时不会自动更新,需定期手动拉取镜像。
- MeiliSearch 转储导入要求文件命名为 just_chat_rag.dump,且需删除数据卷以强制导入。
- 部分高级功能(如导出冲突解决)需要 Meilisearch 1.16.0 或更高版本。