SuperAPI AI 工具集

dspy-langwatch

通用与其它

查看项目

更新于 10-15 23:58

技能介绍

用途:为 DSPy 程序配置 LangWatch,实现推理自动追踪与优化器实时进度监控。

主要能力:自动追踪模块输入输出、LM 调用(模型、消息、响应、token)与检索查询及嵌套调用树;优化器进度跟踪为独有特性,可实时流式展示每步分数、预测器指令与示例状态、LM 调用、成本与进度条。

使用方式:安装 pip install langwatch 或 pip install langwatch[dspy];云端在 app.langwatch.ai 注册并设置 export LANGWATCH_API_KEY="your-key";自托管可 git clone https://github.com/langwatch/langwatch.git 后 docker compose up -d,并 export LANGWATCH_ENDPOINT="http://localhost:5560"。追踪用 @langwatch.trace() 配合 langwatch.get_current_trace().autotrack_dspy()。优化器跟踪用 langwatch.dspy.init(experiment=..., optimizer=optimizer) 后调用 optimizer.compile。支持 BootstrapFewShot、BootstrapFewShotWithRandomSearch、COPRO、MIPROv2,其他优化器会报 ValueError。

适用场景:需要长时间优化过程的可视化、无手动装饰器的自动追踪,或同时需要推理追踪与优化器监控。

限制:若只需最简单追踪、需要本地查看器与内置评估、团队已用 W&B、或需要模型注册与完整 ML 生命周期,则建议使用其他工具。云服务免费层、具体价格、自托管资源要求等资料暂未提供完整细节。