SuperAPI AI 工具集

vision-agent

VisionAgent 是 LandingAI 推出的视觉 AI 助手,已标记为弃用(官方建议改用 Agentic Document Extraction)。它能根据文本提示和图像/视频,自动选择视觉模型并输出可运行的代码,帮助用户在几分钟内构建视觉 AI 应用。该工具需 Python 3.9 以上环境,并依赖 Anthropic、Google 及 VisionAgent 的 API 密钥。使用时它会先生成任务计划,再生成代码与测试用例,并反复迭代直到测试通过。它也提供独立的视觉工具函数(如目标检测、视频追踪等),可在脚本中直接调用。官方支持通过本地 Web 应用(examples/chat)进行交互体验。

访问官网

工具介绍

VisionAgent 是 LandingAI 开发的“视觉 AI 领航员(Visual AI pilot)”工具。用户只需提供一句提示和一个图像或视频,它就会自动挑选合适的视觉模型,并输出可直接运行的代码,让开发者快速构建具备视觉能力的应用。

用途方面,VisionAgent 主要用于根据自然语言提示生成视觉任务代码,例如计数图像中的物体、检测特定目标、追踪视频中的人物等。它也能作为一组独立工具库使用,在自有脚本中直接调用具体的视觉函数。

主要能力包括:能根据提示生成代码生成任务计划(开启详细输出时会显示编号步骤);基于计划生成代码与测试用例;用测试用例验证生成代码,若失败则迭代生成过程直至通过。VisionAgent 库内置多种工具(独立模型或函数),可完成特定任务。例如提示“统计图中狗的数量”,它可能先使用 florence2_object_detection 检测所有狗,再用 countgd_object_detection 统计数量。工具位于 vision_agent.tools API 中,安装后可在自有脚本中直接调用,如用 countgd_object_detection 统计图像中物体数量,或用 countgd_sam2_video_tracking 追踪视频中的人并配合 extract_frames_and_timestamps 返回出现人物的帧和时间戳。

使用方式:需 Python 3.9 或更高版本,并准备 Anthropic API 密钥、Google API 密钥以及 VisionAgent API 密钥(需先注册账号获取)。运行前需将这三个密钥设为环境变量。安装可通过 uv 或 pip 进行。快速开始流程为:获取密钥、设置环境变量、安装 VisionAgent、创建 quickstart 文件夹、放入待分析图像、将示例脚本复制为 source.py 并运行,随后会生成 generated_code.py 文件保存生成的代码。也可通过本地 Web 应用(examples/chat)体验。若想更换或仅使用某一 LLM 提供商,可在 vision_agent/configs/config.py 中修改,并添加对应 API 密钥。VisionAgent 使用 Anthropic Claude 3.7 Sonnet 和 Gemini Flash 2.0 Experimental(gemini-2.0-flash-exp)来响应提示并生成代码;v1.0.2 及更早版本由 Anthropic Claude-3.5 和 OpenAI o1 驱动,使用这些版本需获取 OpenAI API 密钥并设为环境变量。

适用场景:适合需要快速构建视觉 AI 应用的开发者,例如图像物体计数、目标检测、视频人物追踪等。也可作为工具库集成到自有项目中。

限制与注意事项:该工具已被弃用,官方建议改用 Agentic Document Extraction。使用前必须获取并设置 Anthropic、Google 和 VisionAgent 的 API 密钥,否则无法运行;Anthropic 和 Google 的 API 有各自的速率限制和付费层级。VisionAgent 本身的具体收费、价格、平台等信息暂未提供。