SuperAPI AI 工具集

using-llm

智能体与模型

查看项目

更新于 10-15 21:35

技能介绍

用途:在代码中编程式调用大语言模型,先列出可用模型,再向任一模型发送聊天补全请求,无需额外配置。

主要能力:列出当前可用模型;以 OpenAI 格式发送非流式聊天补全;消息支持 system/user 等角色;支持 tools 工具定义(Function Calling);支持视觉模型在消息中附带图片;可通过 extra_body 的 thinking 参数控制深度思考。

使用方式:导入 SDK 函数,在代码内使用,如 from sdk.llm import create_openai_sync_client,先 client.models.list() 查询模型 ID,再 client.chat.completions.create(model=..., messages=[...]) 发请求。代码有两种执行方式:一是用 run_python_snippet 直接执行代码片段;二是写入 .py 文件后用 shell_exec 运行,例如 shell_exec("python scripts/my_llm_script.py")。LLM 调用耗时较长,可按复杂度提高 timeout,如单次调用 timeout=120,多模型对比或批量推理 timeout=300 或更高。

图片输入:视觉模型可用 file_to_url(path) 将工作区文件转为 URL(优先),失败时用 image_to_base64(path) 回退;两者接受 http/https URL 并原样返回。注意 image_to_base64 已返回完整 data URL,直接用作 url,不要再拼接 data:image/jpeg;base64, 前缀,否则报 Invalid base64 image_url 错误。路径相对 .workspace/ 目录。

常用参数:model(必填,真实模型 ID)、messages(必填)、temperature(0~2,默认 1)、max_tokens、tools、extra_body。thinking.type 取值 disabled(建议默认,避免不必要的 token 与延迟)、enabled、auto;该参数仅适用于支持深度思考的模型,传给不支持的模型可能报错。

返回值:response.choices[0].message.content 文本回复,.tool_calls 工具调用列表,finish_reason 为 stop/tool_calls/length,usage.total_tokens 总 token 数。仅当 thinking 为 enabled 或 auto 且模型决定思考时,存在 message.reasoning_content 思维链;它是非标准字段,SDK 不自动解析,需经 model_extra.get("reasoning_content") 或转 dict 读取。

适用场景:需要在代码片段或脚本内调用 LLM、做多模型对比或批量推理、图像理解、工具调用等。

限制:聊天请求为非流式;需在支持 sdk.llm 与上述工具的环境中运行;模型 ID 需为真实可用值;thinking 参数受模型支持情况限制;图片路径相对 .workspace/。价格、配额、平台支持范围等资料暂未提供。