SuperAPI AI 工具集

Skill 广场

找到适合任务的 Agent Skill,阅读介绍并复制安装命令。

更新于 10-25 00:14

智能体与模型

24,780 个结果

axolotl

Axolotl Skill 是一个用于辅助 Axolotl 开发的中文技能资料,根据官方文档自动生成。Axolotl 用于大语言模型的微调,本技能提供 YAML 配置、100 多个模型支持、LoRA/QLoRA、DPO/KTO/ORPO/GRPO 及多模态支持等专家指导。技能内容涵盖何时使用、常见模式(如 NCCL 测试、FSDP 配置、context_parallel_size、save_compressed)、示例代码模式(如 ModalCloud、AxolotlTrainer、RawInputOutputPrompter),以及 references 目录下的 api、dataset-formats 等文档。适用于处理 Axolotl、询问其功能或 API、实现方案、调试代码和学习最佳实践的开发者。

智能体与模型49 次安装

implementing-llms-litgpt

LitGPT 是 Lightning AI 推出的开源工具,提供 20 多个预训练大语言模型(如 Llama、Gemma、Phi、Qwen、Mistral 等)的清晰可读实现与生产级训练流程。它支持模型下载、文本生成、全量微调、LoRA 微调、从零预训练、模型量化与部署等完整工作流,代码简洁易读,适合学习 LLM 架构、研究实验与原型开发。安装方式为 pip install 'litgpt[extra]',可通过 Python API 或命令行使用。

智能体与模型49 次安装

langchain

LangChain 是用于构建 LLM 应用的框架,支持智能体(Agents)、链(Chains)和 RAG(检索增强生成),可对接 OpenAI、Anthropic、Google 等多种模型供应商,提供 500+ 集成。资料显示其 GitHub 星标 119,000+,272,000+ 仓库使用,3,800+ 贡献者,许可为 MIT,版本 0.3+。适合构建带工具调用与推理的智能体、实现 RAG 流程、快速切换模型供应商、构建带记忆的聊天机器人、快速原型开发,并可通过 LangSmith 进行可观测与生产部署。

智能体与模型49 次安装

outlines

Outlines 是一个用于结构化文本生成的 Python 库,由 dottxt.ai(原 .txt)开发,GitHub 星标 8000+。它通过有限状态机(FSM)在 token 采样层面约束生成过程,保证输出严格符合 JSON、XML、代码或正则表达式等结构,无需生成后再校验或重试。支持 Pydantic 模型实现类型安全输出,可自动将 JSON Schema 转换为语法约束。兼容多种本地模型后端,包括 Hugging Face Transformers、llama.cpp 和 vLLM,也提供有限的 OpenAI API 支持。提供 choice、json、regex、integer、float 等专用生成器,适用于数据抽取、分类、表单填写、多实体识别和代码生成等场景。

智能体与模型49 次安装

serving-llms-vllm

该技能介绍如何使用 vLLM 以高吞吐量服务大语言模型,依托 PagedAttention(分块 KV 缓存)与连续批处理(混合 prefill/decode 请求)实现高性能推理。内容涵盖安装方法、离线批量推理、OpenAI 兼容服务端部署、量化模型服务(AWQ/GPTQ/FP8)、生产部署检查清单(配置、压测、监控、Docker 部署与指标验证)、Prometheus 监控指标、常见问题排查(显存不足、TTFT 过高、吞吐低、模型未找到等)、硬件需求与官方资源。适合部署生产级 LLM API、需要低延迟高吞吐的多用户应用,以及在有限显存下运行大模型的场景。

智能体与模型49 次安装