- click/click_ref: pre-click allowlist gate on resolvable anchor href
(same check as navigate; miss refuses before the click executes);
click/click_ref/click_at: post-click landing URL check.
click_at has no pre-click gate by design (coordinates name no
element); JS-driven navigation, evaluate, meta refresh and popups
are documented as unintercepable with the Tinyproxy 403 backstop.
- Tenant script upgrade is now safe: only proven-unmodified scripts
(manifest match, 2a569ac known-shipped SHA-256, missing, or
current) auto-merge; tenant-modified scripts are never overwritten,
are reported as skipped, and get one deduped audit record. The
manifest never learns a tenant hash (else the next upgrade would
mistake a modified file for untouched). Idempotent reruns.
- Activation candidate = deployed Tinyproxy programming set encoded
with leading-dot entries (plain entries would regress
docs.python.org); npmjs.org per the deployed filter, not npmjs.com.
Host activation itself is NOT performed this round: only the plan,
validation tests and rollback are delivered.
Tests: 28 new (click 13, upgrade 8, activation 7), all fake/no-network;
98 browser-related tests pass including prior suites.
(cherry picked from commit e4a93f5748ec815f163d0bc096ff4dc4b8c651f5)
6.8 KiB
name, description
| name | description |
|---|---|
| browser-automation | Use when a task needs a real browser: pages that render with JavaScript, clicking through pagination or forms, filling and submitting input, or taking a screenshot of what a page actually looks like. For a plain static page or a quick fact, use web_fetch / web_search first; open the browser only when static fetch cannot see the content. |
工具
browser_navigate(打开 URL,返回最终 URL 与标题)、
browser_snapshot(当前页标题、URL、正文,超 8000 字截断并标记)、
browser_click(按 CSS 选择器或 text=... 点击)、
browser_fill(按选择器填表)、
browser_evaluate(在页内跑 JS 表达式,返回字符串,限 4000 字)、
browser_screenshot(把当前页存成工作区内的 PNG,返回绝对路径与字节数)、
browser_click_at(按视口坐标点击,坐标系为 1280x800、原点左上角,
是 live 视图里用户点击的落点)、
browser_live_shot(把当前画面存成固定文件 browser-live.png,
附带 browser-live.json 状态:URL、标题、时间戳,供 watcher 轮询)、
browser_close(关闭浏览器,可重复调用)。
浏览器是单页的:一次 navigate,之后 snapshot / click / fill / screenshot 都针对同一页;要换页再 navigate。
live 视图(第一期)
有人在看浏览器时,每次 navigate / click / fill / click_at 之后
都要调一次 browser_live_shot,让 browser-live.png 保持最新;
不要只在最后截图一次。用户在 live 图上点的坐标会以 x/y 到达
browser_click_at,点完必须再 snapshot 一次确认变化,再调
browser_live_shot 刷新画面。
远控接管(第二期)
用户可以在控制台接管浏览器:接管期间(holder=user)你的 所有 browser_* 工具都会直接报错“user holds browser control”, 不要重试、不要 close 浏览器,停下来等用户交还;交还后 (holder 回到 agent)下一条继续消息会让你续跑,续跑前先 snapshot 一次看清用户改动到哪了。
新工具:browser_snapshot_refs(带 ref 的元素清单,点
browser_click_ref 比 CSS 选择器稳,页面重渲染后先重新
snapshot_refs 再点);browser_mouse_move / browser_key_press /
browser_type_text(键盘与鼠标,远控输入与 agent 工具同源)。
规则
- 先 navigate,再 snapshot 看实际渲染结果;click / fill 后 必须再 snapshot 一次确认变化,不要凭猜测汇报。
- 截图产出后用 shell / PIL 重新打开验证(格式、尺寸、非 0 字节)再交给用户;失败时贴出工具报错,不要换一张别的图顶替。
- 网络走 egress 代理:不在 Tinyproxy 白名单里的域名会报 代理 403,这时如实说明,不要绕过白名单。
- file:// URL 可用于打开工作区内已写好的测试页(验证 JS 执行、表单行为),是比外网更可靠的自测手段。
- 不要用浏览器做静态抓取能做的事;不要用 evaluate 绕过 click / fill 的正常路径去改页面状态,除非 snapshot 已证明 正常路径走不通。
多页与域名白名单(本期新增)
多页工具:browser_new_page(开新页并切到它,每次
new_page 都是全新 Playwright context,cookie 与存储天然
隔离,适合同时登录两个账号或对照两个页面)、
browser_list_pages(列出全部页:index、URL、标题、
哪一页是当前页;浏览器未启动时不启动,只返回空列表)、
browser_switch_page(按 index 切到指定页,之后
navigate / snapshot / click / fill / screenshot 都针对该页;
切到不存在的 index 会明确报错,不会崩掉 MCP,当前页不变;
切换后旧页的 snapshot_refs 全部失效,要重新 snapshot_refs)、
browser_close_page(关一页,缺省关当前页;关当前页后
自动切到上一页;关最后一页会明确报错,改用
browser_close 关整个浏览器)。
域名白名单:环境变量 BROWSER_ALLOWED_HOSTS(逗号列表,
如 example.com,.python.org)。未设置时行为完全不变,
只靠 egress 代理白名单;设置后 navigate 在启动浏览器之前
就检查:file:// 一律放行,http(s) 的 host 必须命中列表
(前导点条目做后缀匹配:.python.org 同时放行
python.org 与 docs.python.org,不放行
notpython.org;注意:不带前导点的 python.org 只精确
匹配自身,不放行 docs.python.org),大小写与端口不影响
匹配,未命中直接报错且不启动 Chromium。localhost /
127.0.0.1 没有特殊待遇:本地开发服务器要自己把它列进
变量,否则会被挡。
页内点击白名单(本轮补齐,与 navigate 同款检查):
browser_click / browser_click_ref 点到带 href 的链接时,
先解析 href(相对链接按当前页 URL 展开)再检查:未命中
直接报错、点击根本不执行;点到没有 href 的目标(按钮、
JS 处理函数)时事前无从得知目的地,只能在点击后检查落点
URL、命中 blocked host 时报错(此时点击已发生,只是事后
发现,不是事前拦截)。browser_click_at 是坐标点击,坐标
本身对应不了任何元素,所以没有事前检查,只有事后落点检查。
真正拦不住的路径(不要假装已拦):页内 JS 自行跳转
(location.href、表单提交、SPA 路由、回车提交)、
browser_evaluate 里跑的任意 JS、meta refresh、弹窗新页。
这些路径没有“点击前已知目的地”可供检查,只能靠 egress
代理 403 兜底——白名单与代理白名单取同一域名集合时,被挡
域名在代理层就加载失败,不会真的打开目标页;但 evaluate
与 shell 同权,白名单从来不是它的沙箱边界,不要把它当
成防绕过手段。
老租户脚本升级(本轮改动):播种器只对已证明未改动的
租户脚本自动合并新版(播种 manifest 命中,或命中
2a569ac 已发布版本的哈希,或文件缺失/已是最新);租户
改过的脚本绝不覆盖,原样不动、记一条审计
(租户 codex-home 里的 playwright_scripts_audit.jsonl),
留待人工处理——下次任务播种时它仍会被跳过,不会悄悄
被新版盖掉。
清理:browser_close 会关掉全部页,并尽力删除工作区里的
browser-live.png 与 browser-live.json(删不掉也不报错),
所以 close 之后不要再拿旧 live 文件当“当前画面”汇报;
单个截图(browser_screenshot 的 shot-*.png)不受影响。
不在本轨范围:下载没有落盘清单(下载仍只落工作区文件, 无统一清单可查);没有持久 profile(每次 MCP 进程结束 cookie 即丢);没有登录保险库(账号密码仍不进浏览器工具)。 需要这些时不要假装已有,先如实说明缺口。