用途:在 LangSmith 中构建评测流水线,围绕评测器(Evaluator)的创建与管理展开。
主要能力:支持两类评测器——LLM-as-Judge(用大模型打分,适合准确性、有用性、相关性等主观质量)和 Custom Code(确定性逻辑,适合精确匹配、轨迹校验、格式合规)。评测器分离线(挂在数据集上,函数签名为 (run, example))与在线(挂在项目上,签名为 (run))两种,通过 --dataset 或 --project 指定,必须二选一,不支持全局评测器。每个评测器函数只返回一个指标,多指标需拆成多个函数。
使用方式:先用 pip install langsmith langchain-openai python-dotenv 安装 Python 依赖,或用 npm install langsmith openai 安装 JS 依赖;CLI 通过 curl -fsSL https://cli.langsmith.com/install.sh | sh 安装。认证优先用 langsmith auth login 保存 CLI 配置,也可设置 LANGSMITH_API_KEY。CLI 与 SDK 认证相互独立,SDK 使用前需确认 LANGSMITH_ENDPOINT、LANGSMITH_API_KEY 等与 langsmith auth info 指向同一环境。代码评测器用 langsmith evaluator upload 上传,LLM 裁判用 langsmith evaluator create-llm(需 --model-config 加 --prompt/--schema 或 --hub-ref)创建,改名替换加 --replace,删除用 langsmith evaluator delete。
关键限制:必须先运行智能体、检查实际输出结构,再写评测逻辑,不要假设输出形状。上传到 LangSmith 的代码评测器在受限沙箱中运行,仅能用内置/标准库,且导入要放在函数体内,建议先用本地 evaluate(evaluators=[...]) 验证。upload --replace 和 create-llm --replace 会先改动规则和提示词;delete 按显示名删除,可能影响多个目标,删除前先 get 检查。“--yes”除非用户明确要求否则不要使用。资料未提供具体价格、收费或套餐信息,暂未提供。