SuperAPI AI 工具集

deepseek

智能体与模型

查看项目

更新于 10-15 21:49

技能介绍

用途:DeepSeek 提供开源基础模型,包括 DeepSeek-V3(Mixture-of-Experts)与用于思维链数学推理和智能体工作流的 DeepSeek-R1,适用于高性能开源权重推理与编码、自托管私有 LLM 部署、成本较低的 API 扩展,以及思维链(CoT)验证与审计。

主要能力:DeepSeek 暴露 OpenAI 兼容 API 端点,可用 OpenAI SDK 调用;DeepSeek-R1 的推理内容通过 reasoning_content 单独返回,最终答案在 content 中,便于分离展示与审计;支持流式输出推理 token;可自托管部署。

使用方式:API 调用示例中,base_url 设为 https://api.deepseek.com,模型名使用 deepseek-reasoner(DeepSeek-R1)。自托管可用 vLLM 启动,例如:vllm serve deepseek-ai/DeepSeek-R1 --tensor-parallel-size 8 --max-model-len 32768 --trust-remote-code --gpu-memory-utilization 0.95 --port 8000。也可使用 SGLang 或 Ollama。

适用场景:数学推理、智能体逻辑、代码生成、企业本地推理模型部署、需要解析推理过程的可审计应用。

限制与注意事项:资料建议 DeepSeek-R1 使用 temperature=0.6,避免 temperature=0;调试算法推理失败时不要过早剥离 thinking 标签;不要给 R1 过于冗长的系统提示;自托管显存有限时可用 FP8 或 AWQ 4-bit 量化;API 高峰时可实现指数退避重试。常见问题包括 401 无效密钥、base_url 未指向 DeepSeek、R1 推理超时(可增大 timeout)。具体收费、价格与平台支持范围暂未提供。