Private LLM 是一款专为 Apple 设备设计的离线 AI 聊天应用,可在 iPhone、iPad 和 Mac 上本地运行开源大语言模型,实现私密、无审查的 AI 对话。
用途: 该应用的核心用途是让用户在完全离线的环境下运行 AI 模型,避免数据上传至云端,从而保障隐私与安全。它适合对数据隐私敏感、需要无审查对话或希望在无网络环境下使用 AI 的用户。
主要能力:
- 本地运行 DeepSeek R1、Llama 3.3、Qwen3、Gemma 3 等开源模型。
- 完全离线,无需联网即可进行 AI 对话。
- 无审查的本地 AI 聊天体验。
- 集成 Siri 和 Apple 快捷指令,无需编写代码即可调用本地 AI。
- 内置 macOS AI 写作工具。
- 采用 OmniQuant 和 GPTQ 量化技术,在减少内存占用的同时提升输出质量。
- 提供模型选择器,可按设备、内存和用途筛选或推荐合适的模型。
使用方式: 用户可通过 App Store 下载应用,在 iPhone、iPad 或 Mac 上安装。应用内提供模型浏览与选择功能,用户可根据自己的设备、内存和用途筛选模型,或使用推荐功能。通过 Siri 和快捷指令,用户无需编程即可将本地 AI 集成到日常操作中。应用采用一次性购买模式,无订阅费用,并支持最多六人的家庭共享。
适用场景:
- 对隐私要求高的个人用户,希望在本地处理敏感信息。
- 需要无审查 AI 对话的用户。
- 在无网络或网络受限环境下使用 AI 的场景。
- 希望通过 Siri 或快捷指令自动化调用 AI 的 Apple 用户。
- 使用 macOS 进行写作并需要 AI 辅助的用户。
限制:
- 仅支持 Apple 设备(iPhone、iPad、Mac)。
- 模型运行依赖设备硬件资源,具体性能可能因设备型号和内存而异。
- 关于具体模型列表、系统要求、价格等详细信息,官方资料中暂未完整提供。