用途:帮助用户挑选免费的LLM服务商并完成API密钥配置。所列服务商均提供永久免费层,无需信用卡。
主要能力:按优先级推荐服务商——速率上限最高为Groq、Cerebras(资料称30 RPM、14.4K RPD);模型选择最多为Cloudflare Workers AI(49+模型)、OpenRouter(32+模型);专有模型最强为Google Gemini(Gemini 2.5 Pro)、GitHub Models(GPT-4o);推理最快为Groq、Cerebras;token额度最高为Mistral AI(每月10亿token);欧洲服务商为Mistral AI(欧盟)、LLM7.io(英国);无需注册为LLM7.io(基础层无需token)。服务商分两类:提供商API(训练模型的公司自营,如Google Gemini、Cohere、Mistral AI、Zhipu AI)与推理服务商(托管开放权重模型的第三方平台,如GitHub Models、NVIDIA NIM、Groq、Cerebras、Cloudflare Workers AI、LLM7.io、Kluster AI、OpenRouter、Hugging Face)。
使用方式:先询问用户关注的模型、速率限制或功能;若已确定服务商则直接进入配置。按优先级匹配并给出1-2个建议及简短理由,加载对应参考文件(provider-apis.md 或 inference-providers.md)逐步完成密钥、代码示例与环境变量配置,最后提供测试脚本或curl命令验证密钥。验证模板使用OpenAI SDK,替换KEY、BASE_URL、MODEL_NAME即可。
限制与注意:除特别说明外端点均兼容OpenAI SDK;RPM为每分钟请求数,RPD为每日请求数;Google Gemini免费层在欧洲经济区、英国和瑞士被屏蔽;部分服务商限速未公开;不要硬编码API密钥,应使用环境变量或密钥管理服务。具体各服务商的详细配置步骤需查阅上述参考文件,本资料未展开。