本技能面向需要脚本化操作浏览器或 Windows 桌面应用的任务,主要用于逆向工程中的证据采集、UI 驱动的工作流执行和网络行为观察。文档给出的使用时机是:分析需要脚本化地与浏览器或桌面应用交互,或在评估过程中采集可复现的 UI 证据(截图、网络跟踪)。
一、浏览器自动化(Playwright / agent-browser) 适用场景包括:打开网页并操作页面元素(点击、填表、提交)、爬取页面内容或截图、自动化登录流程、渗透测试中与 Web 页面交互(提交 payload、触发 XSS)、验证码页面自动化处理、批量表单提交。 核心工作流为:用 agent-browser open <url> 打开页面;用 agent-browser snapshot -i 获取可交互元素(返回 @e1、@e2 等引用);用引用执行 click、fill、type 等操作;完成后执行 agent-browser close 关闭。 命令参考还包括:snapshot 输出完整无障碍树;press 按键、scroll down 500 滚动;get text / get title / get url 获取信息;wait @e1、wait 2000、wait --load networkidle 等待。注意事项:必须执行 close 否则进程泄漏;操作前先 snapshot,不要猜元素引用;提交表单后用 wait --load networkidle 等页面稳定。
二、桌面应用自动化(OpenReverse) OpenReverse 是面向 AI Agent 的桌面交互与证据采集框架,支持 UIA 模式(Windows UI Automation,结构化桌面控件操作)、CUA 模式(视觉驱动的 Computer Use Agent,适合复杂 GUI)以及内置 mitmproxy 代理加本地抓取的网络观察。 模式选择:UIA 适合目标应用有标准 Windows 控件(按钮、文本框、列表);CUA 适合 UI 复杂或非标准控件(如 IDA 的反汇编视图、自定义渲染界面)。网络观察分为 Proxy Lane(目标应用可配置代理,推荐)与 Local Lane(无法走代理,需要本地抓取)。 安装配置:git clone https://github.com/zhexulong/openreverse.git;cd openreverse;npm install;npm run init:agents -- --target=all /path/to/project 接入 Agent 宿主(Claude Code / Codex / Zed);如需视觉驱动模式执行 npm run install:cua-runtime 与 npm run doctor:cua-runtime;如需抓包执行 npm run install:mitmproxy 与 npm run doctor:network。 常见组合:只操作桌面应用用 UIA 或 CUA,不接网络 lane;操作桌面应用加抓包用 UIA/CUA + proxy lane;操作桌面应用加本地抓取用 UIA/CUA + local lane。 逆向场景示例:用 OpenReverse CUA 模式打开 IDA Pro,自动加载目标二进制,等待分析完成,通过 UI 操作导出函数列表,同时用 network lane 观察 IDA 的网络行为(如 Lumina 请求);用 UIA 模式启动 x64dbg,加载目标程序,设置断点,运行并观察寄存器/内存变化,截图保存证据。
三、能力边界与自举 Playwright 可自动安装(npm + npx playwright install);agent-browser CLI 可自动安装(npm install -g agent-browser);Node.js 可自动安装(winget);OpenReverse 需手动 clone + npm install(实验阶段,依赖较重);mitmproxy 需手动安装。当浏览器操作缺少 Playwright 时自动 bootstrap;桌面操作需要 OpenReverse 时引导用户手动安装并给出完整步骤。
四、与其他工具的分工 操作网页(浏览器内)用 Playwright / agent-browser;操作桌面应用(Windows GUI)用 OpenReverse;抓包分析、HTTP 请求捕获用 anything-analyzer 或 OpenReverse network lane;JS 断点、Hook、CDP 调试用 jshookmcp;定位签名算法、补环境复现用 js-reverse。简单判断:目标是网页则用 Playwright,目标是 Windows 桌面应用则用 OpenReverse,两者都需要则组合使用。下游出口:抓到的请求需要分析交给 anything-analyzer 或 js-reverse;需要 JS 调试/Hook 交给 jshookmcp;需要还原签名算法交给 js-reverse;桌面应用是逆向工具则交给 ida-reverse/。
五、限制 UI 选择器会随应用更新而失效,脚本需要维护;Windows 桌面自动化需要具备相应辅助功能栈的操作系统。文档未提供收费、价格与效果保证等信息。