Groq 定位为面向快速推理的 neocloud,官方称其为一个完全集成的平台,涵盖基础设施、推理和控制三部分。据官方数据,每周有数百万开发者在该平台上运行数万亿 token。
主要能力:Groq 强调推理在 AI 价值链中的核心地位,认为训练创造可能性,而推理创造价值;随着对 AI 的要求提高,推理正成为瓶颈。为此,Groq 自主研发了 LPU,并推出 LPX,称其可与 NVIDIA 下一代 GPU 协同,提供无与伦比的推理能力,兼具可靠、可负担和规模化特性,使速度与成本不再是一种取舍。
使用方式:官方资料仅说明其为一站式集成平台,提供基础设施、推理与控制能力。关于具体接入方式、API 文档、命令行工具或控制台操作步骤,暂未提供。
适用场景:面向需要大规模、快速、低成本 AI 推理的开发者与客户,官方提及的典型场景包括服务每一位客户、销售每一件产品、合并每一次提交、完成每一个智能体任务,均属于推理范畴。
规模与融资:Groq 宣布完成 3.5 亿美元 A 轮融资,用于建设全球领先的 AI 推理云。官方称正在建设数百兆瓦的容量,并计划继续扩展。
限制:现有资料未提供具体产品定价、免费额度、支持模型列表、地区可用性、性能基准数据或使用限制,这些信息暂未提供。