d-inference 是 Layr-Labs 在 GitHub 上维护的开源仓库,标题与定位为“运行在闲置 Mac 上的私有推理网络”(Private Inference Network on Idle Macs)。
用途与定位 该仓库承载 Darkbloom 的 Apple Silicon 提供程序(provider)、原生推理运行时集成以及营销站点,同时保留了一份 console 源码快照及其原有的构建、测试与托管配置。提供程序使用 MLX 在本地运行模型,并且可以连接到 Darkbloom 网络,或对外提供本地 OpenAI 兼容 API。这意味着它既能作为本地推理端点使用,也能接入更广泛的网络环境。
仓库所有权与边界 资料明确划分了代码归属:中心化后端、console 与 admin 代码专属 darkbloom-platform 仓库,不应在本仓库实现、提交、推送或上传新的后端、console 或 admin 代码。现有的 console-ui/ 快照仍保留在本地,但保留快照并不代表新的开发所有权从 platform 转移回来。设备本地的 Swift API 仍属于 provider 代码。推送前应检查 git remote -v 与预期的 diff。源码所有权不等于部署权限:基础设施、托管与流量变更需要特定的人工批准;发布与模型注册仍属于外部 API 操作。
使用方式 使用路径建议从安装(installation)开始,然后进入快速开始(quickstart)。本地推理使用 direct 模式;模型适配需参考硬件要求(hardware requirements);缓存存储(cache storage)用于加密 SSD 存储和每日写入限制。工具版本记录在 mise.toml 中,支持的命令记录在 Makefile 中。构建 provider 需要 Apple Silicon、文档说明的 Xcode 工具链以及递归的 MLX 依赖;相关规则参见构建、测试、导航与贡献说明。
安全与限制 该提供程序是明文推理端点。网络加密不会对进程本身或协调器的临时请求处理隐藏提示词。安全保证应参考加密与存储信任模型以及 provider attestation,不应仅凭仓库拆分来推断。公开的 golden vectors 用于检查固定的预期行为,并非私有的跨实现资格认证或真实集群证据。文档索引与保留的 console 架构可供查阅;平台 API 与消费者指南在平台文档中维护。现有变更日志历史是所有权拆分前后工作的记录,并不构成新发布或部署的证据。
许可与其他 许可信息参见 LICENSE,致谢参见 ACKNOWLEDGEMENTS.md。已发布的隐私与条款不因源码清理而改变。仓库中未提供具体的收费、价格、平台支持范围或性能数据,这些内容暂未提供。