用途:在 Cloudflare Workers 中通过 AI 绑定调用托管模型,构建 AI 应用,无需自建 GPU 基础设施。
主要能力:文本生成(Llama、Qwen、DeepSeek、Mistral 等)、文本嵌入(BGE 系列)、图像生成(Flux、Stable Diffusion XL、Dreamshaper)、视觉理解(Llama 3.2 Vision、UForm)、翻译、分类与语音识别。支持流式输出、AI Gateway 缓存与日志、OpenAI 兼容端点及 Vercel AI SDK。
使用方式:在 wrangler.jsonc 配置 AI 绑定,通过 env.AI.run(model, inputs, options) 调用;文本生成建议 stream: true 并返回 text/event-stream。嵌入返回 shape 与 data 向量,图像生成返回二进制流。可配合 Vectorize 实现 RAG,配合 R2 存储生成图像。OpenAI SDK 的 baseURL 为 https://api.cloudflare.com/client/v4/accounts/{account_id}/ai/v1。
适用场景:聊天补全、RAG 检索增强、结构化输出、图像生成与存储、图像理解等。
限制:速率限制按任务类型不同(文本生成约 300/min,嵌入 3000/min,图像与视觉 720/min);免费额度每日 10000 neurons,付费 $0.011/1000 neurons;输入输出 token 上限随模型而异;Workers 默认 30 秒 CPU、最长 5 分钟;需处理 429 重试与提示注入防护。具体价格与限额以官方最新文档为准。