SuperAPI AI 工具集

anth-architecture-variants

智能体与模型

查看项目

更新于 10-15 22:42

技能介绍

用途:为 Claude API 集成挑选并落地适配规模的架构模式,触发词为相关架构选择类短语。

主要能力:提供四种已验证模式。一、无服务器(AWS Lambda / Cloud Functions),适合低于 100 RPM、事件驱动、按调用付费;示例使用 claude-haiku-4-20250514,注意冷启动增加 1-3 秒、15 分钟超时限制、无连接池。二、流式微服务(FastAPI + WebSocket),适合聊天机器人与实时交互,使用 messages.stream 与 claude-sonnet-4-20250514。三、基于队列的流水线(Celery / Cloud Tasks),适合批量处理与异步高并发,含 RateLimitError 重试。四、多模型编排器,先用 Haiku 分类意图再路由到合适模型。另附选型对照表(延迟、吞吐、成本、复杂度)与前提条件。

使用方式:先记录延迟、吞吐、可用性、数据驻留、保留、预算与副作用需求,再选满足指标的最小架构。密钥留在服务端,入口校验租户/模型/目标范围,工作进程与队列最小权限,流式连接与批处理消费者隔离。加有界重试、熔断、背压、幂等结果、健康检查;所有工具或下游写入需白名单与审批门。用合成载荷与故障注入测试,灰度发布,比较错误率、延迟、队列深度、token/成本与数据范围断言,经负责人批准后晋升,否则回滚。输出为架构决策记录,不含内容与密钥。

限制:仅提供架构模式与流程,未提供部署平台、具体定价与性能基准;模型名与代码以资料为准,日期版本可能随时间变化。若架构门无法观测则停止晋升。