Galahad 是一个以“每服务器”为单位的软件层，部署在用户的工作负载与 GPU 硬件之间，用于消除模型推理中的重复计算。其核心思路是：模型已完成的某些计算可以被字节级精确地记忆下来，并在新的请求中直接拼接复用，而无需重新计算 token。
主要能力方面，Galahad 包含两个引擎：Merlin 和 Taliesin，它们构成一个复用闭环。Merlin 负责判断哪些计算可以复用并验证其安全性。它会对每个传入提示进行哈希，并查询是否曾经处理过。查询由 VRAM 中的实时注册表完成，响应时间低于两微秒；同时有持久化磁盘账本，可跨重启存活，并在机器之间以字节完全相同的方式迁移。只有两个独立哈希一致时才视为命中，以避免返回错误记忆。Merlin 也可独立运行，作为内容感知去重工具，在内容到达模型之前剥离冗余上下文，包括纯 API 场景。Taliesin 则负责将 Merlin 找到的状态拼接进实时请求中，实现零 token 重算。据描述，恢复的 logits 与重新计算的结果逐字节一致，SHA-256 相等，KL 散度为 0，并已在两个模型规模和两个 GPU 目标上验证。区块通过位置重新绑定和重算融合合并，使模型能够跨区块推理，而不仅仅是读取它们。
使用方式上，Galahad 是位于用户工作负载与硅片之间的软件层。用户继续在任意位置租用服务器，Galahad 仅授权该软件层。它的复用机制对模型无感知，任何模型都可以在框架内运行，模型权重和数据保持 100% 用户所有，官方表示不会看到用户数据或权重。
适用场景主要是需要大规模运行模型推理、且存在大量重复或相似计算的服务器环境，以及希望在不更换模型或云服务商的前提下降低推理成本的场景。官方称其能“终结重复付费”，通过可验证的复用减少计算开销。
限制方面，目前资料未提供定价、具体支持的模型列表、部署细节、对各硬件平台的完整兼容性说明，也未提供独立第三方基准测试或详细的技术论文。是否适用于所有工作负载，以及实际节省效果，需要根据用户自身负载进行测量验证。
