SuperAPI AI 工具集

clade-model-inference

智能体与模型

查看项目

更新于 10-15 22:42

技能介绍

用途:本技能围绕 Anthropic Messages API 的推理调用模式,讲解流式响应、系统提示、视觉输入与结构化输出等高级用法。所有 Claude 交互均通过 client.messages.create() 这一推理端点完成。

主要能力:支持流式响应(client.messages.stream),可逐段输出文本增量;支持系统提示设定行为与角色;支持多轮对话;支持视觉输入,以 base64 方式发送 PNG、JPEG、GIF、WebP 图像;支持通过系统提示约束模型返回 JSON 等结构化输出。

使用方式:需先完成 clade-install-auth 并熟悉 clade-hello-world。TypeScript 示例使用 @claude-ai/sdk,Python 示例使用 anthropic 库。流式调用可遍历事件,识别 content_block_delta 与 text_delta 输出文本,最后用 finalMessage() 或 get_final_message() 获取用量。关键参数包括必填的 model、max_tokens、messages,以及可选的 system、temperature、top_p、stop_sequences、stream。

适用场景:需要实时展示模型输出的对话应用、图像理解任务、要求返回固定 JSON 结构的数据处理流程,以及多轮交互场景。

限制与错误处理:图像每次请求最多 20 张,单张最大 5MB,仅支持 PNG、JPEG、GIF、WebP。overloaded_error(529)可指数退避重试;rate_limit_error(429)需查看 retry-after 头;invalid_request_error 多因图像过大或格式错误。流式事件包括 message_start、content_block_start、content_block_delta、message_delta、message_stop。后续可参考 clade-embeddings-search 了解工具调用模式。