SuperAPI AI 工具集找到适合任务的 Agent Skill，阅读介绍并复制安装命令。
更新于 11-14 00:15
26,318 个结果
TorchTitan 是 PyTorch 官方的大规模 LLM 预训练平台，提供 PyTorch 原生实现的 4D 并行能力（FSDP2、TP、PP、CP），据资料称在 H100 GPU 上相较基线可获得 65% 以上加速。该技能围绕 TorchTitan 提供预训练 Llama 3.1、DeepSeek V3 等模型的安装、配置与启动指导，涵盖单节点训练、SLURM 多节点训练、Float8 训练以及 405B 级模型的 4D 并行流程，并包含检查点、监控与常见问题排查。适合需要从零预训练 8B 至 405B 以上模型、并希望使用无第三方依赖的 PyTorch 原生方案的场景。
DSPy 是斯坦福 NLP 团队开发的声明式语言模型编程框架，GitHub 星标超过 22,000。它让开发者用声明式方式构建复杂 AI 系统，而非手工编写提示词。核心概念包括：Signature（定义输入到输出的任务结构）、Module（可复用组件，如 Predict、ChainOfThought、ReAct、ProgramOfThought）和 Optimizer（利用训练数据自动优化提示词，如 BootstrapFewShot、MIPRO、BootstrapFinetune）。支持构建多阶段流水线、模块化 RAG 系统、智能体和分类器，可配置 Anthropic Claude、OpenAI、Ollama 本地模型等多种 LM 提供商，并提供评估指标与调试追踪能力。适合需要系统性提示优化、复杂多阶段系统或跨模型优化的场景。
该技能用于在 LIBERO 和 RoboCasa 仿真环境中评估 NVIDIA Cosmos Policy 视觉-语言-动作（VLA）模型。它覆盖空白机器环境搭建、依赖同步、无头 GPU 的 EGL 渲染配置、LIBERO 与 RoboCasa 的冒烟与完整基准评测、结果日志解析以及推理性能剖析，并提供官方参考成功率与常见问题排查方法。技能以公开入口模块 run_libero_eval 和 run_robocasa_eval 为核心，附完整命令行、环境变量与验证代码，适合复现官方评测结果。
这是一个用于自动演化与优化 AI 智能体的技能文档，基于 A-Evolve 框架，用 LLM 驱动的进化算法在任意领域迭代提升智能体表现。它将提示词、技能、记忆、工具等可演化状态以文件形式组织成工作区，通过“求解—观察—演化—门控—重载”循环对基准测试持续优化，并支持 git 版本化回滚。文档涵盖安装方式、三行快速开始、内置智能体与基准、自定义智能体、基准与进化引擎的接口实现、配置参数与常见问题，适合构建可度量、自改进的智能体。
OpenVLA-OFT 是一个面向机器人动作生成的视觉-语言-动作（VLA）模型微调与评估技能，基于官方 openvla-oft 代码库。它用连续动作头（L1 回归或扩散）替代标准 OpenVLA 的离散动作分词，并通过 LoRA 适配冻结的 VLA 主干，支持 FiLM 条件与多路图像输入。技能覆盖从零环境搭建、LIBERO 仿真评估与微调、ALOHA 真机 OFT+ 训练与部署的完整流程，并给出显存需求、官方性能基准、训练/推理配置一致性检查与常见问题排查。
该技能提供 Physical Intelligence OpenPI 模型（pi0、pi0-fast、pi0.5）在机器人操作任务上的端到端微调与部署流程，支持 JAX 与 PyTorch 双后端，覆盖空白机器环境搭建、数据配置与归一化统计、JAX/PyTorch 训练、JAX 到 PyTorch 检查点转换、WebSocket 策略推理服务，以及面向 ALOHA、DROID、LIBERO 等环境的客户端集成与常见问题排查。
TRL（Transformer Reinforcement Learning）是用于大语言模型后训练与偏好对齐的代码库，提供监督微调（SFT）、直接偏好优化（DPO）、PPO/GRPO 强化学习以及奖励模型训练等能力。该技能以可运行示例展示如何安装依赖、加载数据集与模型、配置各训练器并执行训练，覆盖从 SFT 到奖励模型再到 PPO 的完整 RLHF 流程、无需奖励模型的 DPO 偏好对齐，以及内存占用较低的 GRPO 在线强化学习。文档还给出方法选择建议、显存需求参考和常见问题排查方式，适合需要对模型进行指令微调或基于人类偏好对齐的开发者与研究者使用。
GGUF 是 llama.cpp 使用的模型文件格式，本技能介绍如何借助 llama.cpp 将 HuggingFace 模型转换为 GGUF 并进行量化，以便在 CPU、Apple Silicon 和 GPU 上高效推理。内容涵盖构建方式（CPU、CUDA、Metal）、模型转换、K-quant 量化类型（Q2_K 至 Q8_0）、imatrix 重要性矩阵量化、llama-cli 推理、llama-cpp-python 调用、OpenAI 兼容服务端，以及 Ollama、LM Studio、text-generation-webui 等工具集成。适用于在笔记本、Mac、消费级显卡或纯 CPU 环境部署本地模型的场景。
GPTQ（Generative Pre-trained Transformer Quantization）是一种针对大语言模型的训练后量化方法，通过分组量化将模型权重压缩至 4-bit，在精度损失极小（通常困惑度增加不到 2%）的前提下实现约 4 倍显存降低和 3-4 倍推理加速。它适合在消费级 GPU（如 RTX 4090、3090）或有限显存的多卡环境中部署 70B、405B 等大模型，也支持与 transformers、PEFT（QLoRA 微调）等生态集成。
该技能提供使用 TRL 库实现 GRPO（Group Relative Policy Optimization，组相对策略优化）强化学习微调的专家级指导，面向推理能力训练和特定任务模型训练。内容涵盖 GRPO 算法原理、奖励函数设计、数据集准备、训练配置、模型设置与训练、部署推理、最佳实践与故障排查。适用于需要强制输出格式、教授可验证任务、提升推理能力、对齐领域行为或多目标优化的场景，不适用于简单监督微调、无明确奖励信号的任务或已有高质量偏好数据的情况。
Guidance 是微软研究院推出的开源 Python 库，用于对大型语言模型（LLM）的输出进行约束式生成。它通过正则表达式、上下文无关文法（CFG）和选项选择等机制，在生成过程中过滤无效 token，从而保证输出符合预期格式，例如合法的 JSON、XML、代码、日期、邮箱、电话号码等。Guidance 提供 Pythonic 的上下文管理器语法来组织对话角色（system/user/assistant），支持 token healing 自动修复提示词与生成内容之间的 token 边界问题，并可用 @guidance 装饰器封装可复用的生成函数，甚至构建带工具调用的 ReAct 智能体等多步工作流。它兼容 OpenAI、Anthropic Claude 等 API 模型，也支持 Transformers 和 llama.cpp 本地模型。相比传统提示方式，约束式生成可减少无效输出与重试，官方资料称在受限输出场景下延迟可降低 30%–50%。该库在 GitHub 上拥有 18,000+ 星标。
HQQ（Half-Quadratic Quantization，半二次量化）是一种面向大语言模型的免校准权重量化方法，支持 8/4/3/2/1 比特精度，无需准备校准数据集即可快速完成量化。它提供 PyTorch、ATEN、TorchAO、Marlin、BitBlas 等多种推理后端，可与 HuggingFace Transformers、vLLM 集成，并支持通过 LoRA/PEFT 对量化模型进行微调。适合需要快速压缩模型、部署量化模型或进行极端低比特量化实验的场景。
HuggingFace Accelerate 是一个面向 PyTorch 的分布式训练统一 API，目标是让任意 PyTorch 脚本用最少的代码改动获得分布式训练能力，资料称通常只需增加 4 行代码即可完成改造。通过从 accelerate 导入 Accelerator 并创建实例、用 accelerator.prepare() 包装模型、优化器和数据加载器、以及用 accelerator.backward() 替换普通反向传播，脚本即可在单机单卡、多卡、多机乃至 TPU、Apple MPS 等环境中运行，设备放置与混合精度等细节由框架自动处理。它还提供 accelerate config 交互式配置和 accelerate launch 统一启动命令，覆盖多 GPU、多节点场景，并在同一套代码下支持 DDP、DeepSpeed ZeRO、FSDP、Megatron 等后端，另含梯度累积、混合精度（fp16/bf16/fp8）、分布式 checkpoint 保存与加载等常用能力。
LitGPT 是 Lightning AI 提供的开源大语言模型工具集，内置 20 多个预训练模型架构（如 Llama、Gemma、Phi、Qwen、Mistral 等），提供简洁可读的实现代码和可直接用于生产的训练流程。它覆盖模型下载、推理、LoRA 与全量微调、从零预训练、权重合并、量化转换以及 API 部署等环节，适合学习模型结构、做研究原型或进行自定义微调。支持 NVIDIA CUDA、AMD ROCm 和 Apple Silicon MPS 环境。
知识蒸馏（Knowledge Distillation）技能用于将大型语言模型（教师模型）的能力压缩到较小的学生模型中，以便在保留大部分性能的前提下降低推理成本。该技能覆盖温度缩放、软目标、反向 KLD（MiniLLM）、logit 蒸馏与响应蒸馏等关键技术，并提供基于 transformers、torch、deepspeed 的安装命令与完整训练脚本示例。适用场景包括将 70B 模型压缩到 7B、把专有模型能力迁移到开源模型、构建领域专用小模型等。
LangChain 是用于构建 LLM 应用的开源框架，支持智能体（Agent）、链（Chain）与 RAG（检索增强生成）。它提供模型抽象层，可方便切换 OpenAI、Anthropic、Google 等多家模型提供商，并拥有 500+ 集成（模型、向量库、工具）。资料显示其 GitHub 星标 119,000+，被 272,000+ 仓库使用，贡献者 3,800+。核心概念包括 Models（模型抽象与流式输出）、Chains（顺序操作）、Agents（ReAct 推理与工具调用）、Memory（对话历史）。RAG 流程涵盖文档加载、文本切分、向量化存储、检索与问答链，并支持带记忆的对话式 RAG。还提供结构化输出、并行工具执行、流式智能体执行、LangSmith 可观测性等能力。安装方式为 pip 安装核心库及对应提供商包。适用于快速原型、聊天机器人、文档问答与生产部署。
LangSmith 是面向 LLM 应用的可观测性平台技能，主要用于跟踪、评估和监控语言模型与 AI 应用。它可捕获所有 LLM 调用的输入、输出与延迟，支持用内置或自定义评估器对数据集做系统评测，并能从生产追踪中构建测试集、进行回归测试与成本分析。适合调试提示词、链和智能体问题，监控生产系统，分析延迟、Token 用量与成本，以及协作开展提示工程。提供 Python SDK，支持通过 @traceable 装饰器、OpenAI 包装器及 LangChain 自动追踪，并可与 OpenAI、Anthropic、LangChain、LlamaIndex 集成。安装方式为 pip install langsmith，并需设置 LANGSMITH_API_KEY 与 LANGSMITH_TRACING 环境变量。
llama.cpp 是一套用纯 C/C++ 实现的大语言模型推理工具，依赖极少，专门针对 CPU 和非 NVIDIA 硬件优化，可在仅有 CPU 的机器、Apple Silicon（M1/M2/M3/M4）、AMD 或 Intel GPU 以及树莓派等嵌入式设备上运行 GGUF 格式模型。它支持本地推理、交互式聊天、兼容 OpenAI 接口的服务器模式、模型量化、文法约束生成和上下文长度调整，适合边缘部署、无 CUDA 环境或希望免 Docker/Python 简单部署的场景。
LLaMA-Factory 是一个用于微调大语言模型的工具，本技能为其提供基于官方文档的综合指导。该技能在用户使用 LLaMA-Factory、询问其功能或 API、实现相关解决方案、调试代码或学习最佳实践时触发。技能内容涵盖 WebUI 无代码操作、100 多个模型支持、2/3/4/5/6/8 位 QLoRA 以及多模态支持等特性。技能包含从官方文档提取的参考文件，如 _images.md、advanced.md、getting_started.md、other.md，并保留原始文档的结构与代码示例。用户可通过 view 命令读取具体参考文件获取详细信息。技能还预留了 scripts/ 和 assets/ 目录用于添加自动化脚本和模板。该技能由官方文档自动生成，可通过重新运行相同配置的抓取器进行更新。
LLaVA（Large Language and Vision Assistant）是一个开源视觉语言模型，用于对话式图像理解。它结合 CLIP 视觉编码器与 Vicuna/LLaMA 语言模型，支持视觉指令微调和基于图像的对话。资料显示其 GitHub 星标超过 23,000，采用 Apache 2.0 许可，提供 7B、13B、34B 等多种参数规模。典型用途包括构建视觉语言聊天机器人、视觉问答（VQA）、图像描述与字幕生成、多轮图像对话、视觉指令遵循以及带图像的文档理解。模型需 GPU 推理，不同规模对应不同显存需求，并支持 4-bit/8-bit 量化以降低显存占用。
Long Context 是一个用于扩展 Transformer 模型上下文窗口的技术技能，涵盖 RoPE、YaRN、ALiBi 和位置插值（Position Interpolation）等主流方法。它适用于处理 32k、64k、128k+ token 的长文档，扩展 LLaMA、Mistral 等预训练模型的上下文长度，实现高效位置编码、长度外推训练以及可变长输入的高效部署。技能提供各方法的原理说明、代码示例、HuggingFace Transformers 集成方式、微调流程与生产部署建议，并附有相关论文与实现资源链接。
Mamba 是一种选择性状态空间模型（Selective State Space Model）架构，面向序列建模，宣称具有 O(n) 线性复杂度，而 Transformer 为 O(n²)。资料称其推理速度约为 Transformer 的 5 倍、无需 KV cache，可处理百万级 token 序列，适合长序列与流式应用。项目以 Python 库 mamba-ssm 形式提供，包含 Mamba、Mamba2 模块以及 MambaLMHeadModel 语言模型接口，并提供多档预训练权重。运行需 Linux、NVIDIA GPU、PyTorch 1.12+ 与 CUDA 11.6+。
miles 是一个面向大规模模型后训练的高性能企业级强化学习（RL）框架，是 slime 的生产级分支，重点解决 MoE 训练稳定性、低精度训练以及训练与推理一致性等关键问题。它支持 1TB 以上参数的 MoE 模型（如 DeepSeek V3、Qwen3-MoE）、FP8 端到端训练与 INT4 量化感知训练，并提供 Rollout Routing Replay（R3）、投机 RL 加速、零拷贝权重同步、部分 rollout 回收、TIS/MIS 离策略校正等能力，可用于需要生产稳定性的大规模模型强化学习训练场景。
MLflow 是面向机器学习全生命周期管理的平台，支持与具体框架无关的实验跟踪、模型注册与版本管理、模型部署以及实验复现。用户可在代码中记录参数、指标与产物，自动记录主流框架的训练过程，比较不同运行结果，并把模型登记到注册表，在 Staging、Production、Archived 等阶段之间迁移版本。它提供本地模型服务命令，也支持向 SageMaker、Azure ML 等云平台部署，适合团队协作维护 ML 项目。安装方式为 pip install mlflow，启动 mlflow ui 后可通过 http://localhost:5000 访问界面。