用途:该资料是 Cloudflare Workers AI 的完整参考,用于在 Cloudflare Workers 的无服务器 GPU 上运行 AI 模型推理。依赖 cloudflare-worker-base 完成 Worker 初始化,最新版本为 wrangler@4.43.0 与 @cloudflare/workers-types@4.20251014.0,状态为生产就绪。
主要能力:通过 env.AI.run(model, inputs, options) 调用模型,返回 JSON 或 ReadableStream。支持文本生成(messages/prompt、stream、max_tokens、temperature、top_p、top_k)、文本嵌入(text 输入,返回 shape 与 data 向量)、图像生成(prompt、num_steps、guidance、strength、image,输出二进制图片)、视觉模型(多模态 messages)以及 OpenAI 兼容端点、Vercel AI SDK 集成。
使用方式:在 wrangler.jsonc 中配置 "ai": { "binding": "AI" },声明 Env 的 AI: Ai,然后调用 env.AI.run()。文本生成建议启用 stream: true,以 text/event-stream 返回。可传入 options.gateway.id 和 skipCache 接入 AI Gateway 做缓存、日志与用量追踪。资料给出聊天历史、RAG(嵌入 + Vectorize 查询 + 上下文生成)、Zod 结构化输出、图像生成后存入 R2 等模式。
适用场景:构建 AI 聊天、检索增强、嵌入检索、图像生成与理解类 Worker 应用。
限制:速率限制按任务不同(文本生成默认 300/min,嵌入 3000/min,图像与视觉 720/min 等),免费额度为每天 10,000 neurons,付费为每 1,000 neurons $0.011;模型输入输出 token 上限因模型而异,Worker 默认 30s CPU、最大 5m,流式分块约 1KB,输出图片约 5MB。生产前建议启用 AI Gateway、处理 429 重试、校验输入长度并防提示注入。