host
fde7bf4c3e
- 拆模块：CHV 从 cloud/sandbox.py 巨类拆到 cloud/chv/（executor/ pool/config/api_client/ssh_transport/disk/errors），sandbox 只留 兼容 re-export，旧导入路径与新路径是同一对象 - 去重复：goal 解析、host 顶层参数、runner 超时抽成共享 helper， Local 与 CHV 在矩阵输入下结论全等（Docker goal-resume 变体 有意保留内联版，见 PR 描述） - 安全：SSH host key 按 VM 钉死（state_dir/<vm>/known_hosts， ssh-keyscan 首次捕获 TOFU），废除 no + /dev/null；CHV_SSH_USER 空串与 CHV_SSH_PORT 越界直接拒绝，不静默 fallback - execute 语义：只读已运行 VM，未运行报 vm_not_running，不为 status 起 VM - 预热池：registry 落盘、重启载入只当孤儿、reconcile 清理、 损坏 quarantine；条目仍一次性，绝不复用脏 VM - 长任务：VM 中途死亡判 interrupted（断点可续跑）；中途心跳 经评估不做（无客内进度信号可采） - #215 未合并：只列复用清单，不复制模块 测试：原 42 项 + 新 24 项全过；相关旧套件与 cloud 全量 1496 项 全过（skipped=4）。验证仍是 mock + 干跑 + 单元测试，未做真机、 压测、安全审计；堆叠于 #216 之上，base 为 feat-cloud-hypervisor。
202 lines
12 KiB
Markdown
202 lines
12 KiB
Markdown
# Cloud Hypervisor 执行器生产就绪清单
|
||
|
||
> 状态图例：✅ 代码已完成 · 🧪 mock 测试已覆盖（无真 VM） ·
|
||
> ⏳ 需 KVM 宿主实测 · 🏗️ 需镜像构建 · 📈 需压测 · 🔒 需安全审计
|
||
>
|
||
> 本清单是 PR 的一部分，不是事后补的口号。凡是标 ⏳/🏗️/📈/🔒
|
||
> 的项，在本轨内一律不声称已验证、已建成、已通过。
|
||
|
||
## 0. 交付点卡在哪一关（必读，先于逐项清单）
|
||
|
||
- **CI 门禁（未过，交付点 = PR OPEN）**：CI 必须通过才能合并。
|
||
此前全仓 CI 因 GitHub 账单问题 0 步骤失败；若账单未恢复、
|
||
CI 仍失败，本 PR 只到 OPEN，不合并，更不为变绿改 CI 配置
|
||
或绕过检查。
|
||
- **真 VM 门禁（未过，执行器默认关闭）**：生产启用（把真实任务
|
||
路由到 cloud-hypervisor、部署到生产主机）必须先有带 /dev/kvm
|
||
的宿主并完成真实 VM 启动、快照恢复、任务端到端验证。
|
||
当前事实：生产主机 124.222.165.170 本身就是 CVM
|
||
（systemd-detect-virt=kvm，DMI product=CVM），/dev/kvm 不存在、
|
||
无 vmx/svm 标志、无 kvm 模块、未装 cloud-hypervisor，无嵌套
|
||
虚拟化透传；本 VM 容器内同样无 /dev/kvm。
|
||
故真 VM、快照恢复、压测在本轨内一律不声称已验证；执行器
|
||
默认关闭（server 默认仍是 docker，worker 默认仍是 local，
|
||
CHV 只在任务创建时显式选 `executor=cloud-hypervisor` 且有
|
||
CHV worker 认领时才跑），不进入生产任务路由。
|
||
- **还差什么才能真正上生产**（按顺序）：① 用户侧开通带 /dev/kvm
|
||
的裸金属或开启嵌套虚拟化的实例；② 在该宿主上构建并发布
|
||
chv-guest 镜像（见 §4）；③ 在该宿主上跑通真实 VM 启动、
|
||
快照恢复、任务端到端、预热池与压测；④ 安全审计通过（§6）；
|
||
⑤ CI 账单恢复且本 PR CI 变绿后，按当时 main 头复核 diff 再合并、
|
||
再部署。缺任何一项，都不把 CHV 推上生产。
|
||
|
||
## 1. 单任务单 VM 隔离
|
||
|
||
- ✅🧪 一个任务一个 VM：dispatch/run/goal 均走 wake → 跑 → finally
|
||
shutdown，同一任务重复 wake 先关旧 VM；VM 名、api-socket、
|
||
每任务磁盘路径均按任务派生，互不相同（测试断言）。
|
||
- ✅🧪 每任务磁盘独立：copy 模式复制基础镜像为每任务磁盘；
|
||
reuse 模式仅单租户实验，生产禁用（代码与文档双写）。
|
||
- ✅🧪 租户无共享路径：执行器不挂载宿主根、宿主代码目录或含
|
||
密钥目录；客机代码在镜像内 `/app`，不在宿主共享挂载上。
|
||
- ✅🧪 密钥不进镜像/代码/prompt：SSH argv 只有 key 文件路径；
|
||
模型 key 由客机 cloud-init 预置的环境变量名注入；测试断言
|
||
命令中不含哨兵密钥值。
|
||
- ✅🧪 SSH host key 按 VM 钉死（优化轨，#216 的 no + /dev/null
|
||
已废除）：每 VM 在 state_dir/<vm>/known_hosts 有独立文件，
|
||
首次启动经 ssh-keyscan 在本机回环端口捕获 key 写入该文件，
|
||
此后 SSH 一律 StrictHostKeyChecking=yes + 该文件校验；
|
||
非 root 客机用户（CHV_SSH_USER，显式空串直接拒绝）与端口
|
||
（CHV_SSH_PORT，1-65535）为显式配置。mock 只验证捕获→
|
||
写文件→钉死选项的管线，不验证首次密钥真实性。
|
||
- 🔒 首次信任边界未闭合：首次捕获是 TOFU，只防首次之后的
|
||
替换，不验证首次本身；更强的方案是镜像构建/cloud-init 时
|
||
把客机 host key 预置进 known_hosts，仍是待办，安全审计时
|
||
须单独立项确认。
|
||
- 🔒 需安全审计：VM 逃逸面（virtio 设备、tap 桥接、SSH 配置）、
|
||
客机 root 提权面、租户间东西向隔离的宿主网络配置，须由
|
||
安全审计逐项确认，代码自查不能代替审计。
|
||
|
||
## 2. 快速启动：预热快照池 + 镜像缓存
|
||
|
||
- ✅🧪 快照/恢复接口：snapshot_vm / restore_vm（restore 后显式
|
||
resume，见 §3），WarmPool 接口与状态机（cold → prewarming →
|
||
warm → assigned → running → recycled/destroyed）。
|
||
- ✅🧪 冷启动回落：池空时 acquire 返回 cold，调用方回落 wake_vm
|
||
冷启动，绝不降级 Docker/Local。
|
||
- ✅🧪 预热条目一次性：acquire 消耗、release 一律销毁，绝不跨
|
||
任务复用脏 VM。
|
||
- ✅🧪 预热池 registry 与孤儿清理（优化轨）：池状态落
|
||
state_dir/warm-pool.json（原子写），worker 重启后载入的
|
||
条目一律当孤儿、只能 reconcile_orphans() 清理，绝不重新
|
||
发给任务；registry 损坏时 quarantine 成 .corrupt 并从空池
|
||
开始；registry 之外的残留 socket 仍由 cleanup_stale_vms()
|
||
扫描处理。
|
||
- ⏳ 需 KVM 宿主实测：预热池的真实冷启动耗时、resume 耗时、
|
||
池大小与命中率、快照来源一致性，均需真机数据，mock 数字
|
||
不能当性能结论。
|
||
- 📈 需压测：多 VM 并行预热/分配/销毁的宿主 CPU/内存/磁盘
|
||
压力、快照存储增长，均未测。
|
||
|
||
## 3. 完整生命周期
|
||
|
||
- ✅🧪 create / boot：API 模式 wake_vm（vmm.ping → vm.create →
|
||
vm.boot → SSH 就绪）。
|
||
- ✅🧪 pause-resume（sleep-wake）：pause_vm / resume_vm（ch-remote）。
|
||
- ✅🧪 snapshot-restore：restore_vm（restore + 显式 resume +
|
||
SSH 就绪），恢复后默认 paused 的坑已在代码与测试里钉住。
|
||
- ✅🧪 hibernate：CHV 无原生 hibernate 端点，本轨用 pause +
|
||
snapshot + shutdown 等价实现，文档与代码双写“等价实现”，
|
||
不声称接了原生端点；唤醒走 restore_vm。
|
||
- ✅🧪 shutdown-destroy / recycle：shutdown_vm（ch-remote
|
||
shutdown + 杀进程 + 删 socket）、recycle_vm（保留
|
||
task_checkpoints/task_attempts，丢失 guest /tmp 与未拷出
|
||
的 worktree 临时物，绝不声称恢复临时文件）。
|
||
- ✅🧪 execute 只读已运行 VM（优化轨）：execute() 先查 VM
|
||
是否在运行（登记活进程或 api-socket 存在），未运行报
|
||
ChvFailure（kind=vm_not_running），不为一次 status 起 VM，
|
||
也不向不存在的端口发 SSH 再拿连接失败冒充任务状态。
|
||
- ✅🧪 长任务中途死亡判 interrupted（优化轨）：客内命令抛
|
||
传输异常、或非 goal 结果已 failed 且登记 VMM 进程已死时，
|
||
_run_with_vm 改判 interrupted（断点可续跑）而非笼统
|
||
failed；VM 还活着时的异常/失败原样处理。中途心跳未做：
|
||
host.py 单次 SSH 长回合没有客内进度信号可采，另起一路
|
||
SSH 轮询只能证明 VM 活着、不能证明任务在进展，评估后
|
||
认为风险大于收益，宁可只做死亡分类。
|
||
- ⏳ 需 KVM 宿主实测：上述全部生命周期在真机上的状态转换、
|
||
快照恢复后 guest 状态一致性、休眠后文件/worktree 保留，
|
||
均未在真机验证。
|
||
|
||
## 4. 完整开发环境（客机镜像）
|
||
|
||
- ✅ 客机镜像内容清单：`chv-guest/README.md` 按
|
||
`cloud/docker/Dockerfile` 能力对齐（Python 3.12、git、
|
||
pandoc/poppler/latex、python-docx/openpyxl/pptx/PyMuPDF/
|
||
Pillow、codex 0.164.0-alpha.9 成套、Playwright + Chromium、
|
||
openssh-server、cloud-init）。
|
||
- ✅ 构建脚本骨架：`chv-guest/build.sh`（参数校验、版本 tag
|
||
格式、KVM 宿主检查、TODO 步骤清单）。
|
||
- 🏗️ 需镜像构建：镜像本身未构建、未发布；BUILDINFO 版本核对、
|
||
浏览器版本钉死、中文 LaTeX 单独一版，均待构建时做。
|
||
- ⏳ 需 KVM 宿主实测：镜像在真 VM 里启动、codex/Playwright/
|
||
git/文档工具链逐项跑通，均未验证。
|
||
|
||
## 5. 资源与成本
|
||
|
||
- ✅🧪 每 VM 配额：CPU/内存进 VmConfig（CHV_CPU/CHV_MEM），
|
||
磁盘配额门（CHV_DISK_GB，超限拒绝），宿主容量门
|
||
（CHV_MAX_VMS，超限明确拒绝排队，不降级）。
|
||
- ✅ 超时与最大轮次：SSH 单次超时（CHV_TASK_TIMEOUT）+
|
||
worker task_timeout 外层护栏；goal 最大轮次 100（与 Local
|
||
同款），执行器内部不重试（重试是 worker max_retries 语义）。
|
||
- ✅ 成本复用：不另起一套计费；worker 现有 quota/成本语义
|
||
（per-user USD 配额、quota 看门狗、成本写库）仍是唯一口径，
|
||
执行器只把 host.py 用量原样返回。
|
||
- ✅ 空闲休眠省成本：hibernate_vm（pause + snapshot +
|
||
shutdown）+ WarmPool 释放即销毁，空闲 VM 不占 vCPU/内存
|
||
（快照只占磁盘，见 §2 压测项）。
|
||
- ✅ autoscaler：按 executor 过滤队列深度（已有）+ 本轨透传
|
||
`--executor` 给拉起的 worker（否则 CHV 池永远饿死）。
|
||
- 📈 需压测：配额下的真实资源占用、超限拒绝的排队行为、
|
||
成本与配额在长任务下的实际表现，均未测。
|
||
|
||
## 6. 网络与治理
|
||
|
||
- ✅🧪 受控 egress：默认 fail-closed（CHV_EGRESS_PROXY 未设且
|
||
未显式允许直连时 preflight 直接失败）；客机命令加 env
|
||
代理前缀，出口只走白名单代理（Tinyproxy 思路复用）。
|
||
- ⏳🔒 需宿主网络配置 + 安全审计：tap 桥接是否真的只路由到
|
||
白名单代理、VM 能否绕过代理直连外网，是宿主网络配置问题，
|
||
执行器代码不能自证，必须在 KVM 宿主上实测并审计。
|
||
- ✅ 审批门：任务 approval 经 `_approval_cli_args` 进客内 host.py
|
||
顶层参数，VM 内 agent 不能自改；delete/deploy/spend 类动作
|
||
仍走 server 的 approval/merge_gate，不由 VM 内 agent 自批
|
||
（本轨不改 approval/merge_gate 语义，只复用）。
|
||
- ✅ 工具与系统调用范围收敛：VM 边界本身就是系统调用边界
|
||
（客机独立内核）；plan 任务走 read-only 沙箱参数；最大步数
|
||
（goal 100 轮）、时间（task_timeout）、重试（worker 1 次）
|
||
超限即停并审计（vm_failed 带 kind）。
|
||
|
||
## 7. 可观测与审计
|
||
|
||
- ✅🧪 VM 事件审计：create/boot/ready/pause/resume/snapshot/
|
||
restore/shutdown/destroy/failed/recycled/warm_pool_acquire/
|
||
release 均经 audit_callback 发出；worker 接线后转 AuthStore
|
||
审计（_audit 本身 best-effort）。
|
||
- ✅🧪 失败分类：ChvFailure 带 kind（kvm_missing/binary_missing/
|
||
kernel_missing/image_missing/ssh_key_missing/cpu_flag_missing/
|
||
egress_not_configured/api_timeout/guest_not_ready/vm_create_failed/
|
||
vm_boot_failed/host_capacity_exceeded/disk_quota_exceeded），
|
||
不笼统 failed。
|
||
- ✅ 断点对齐：VM 快照/休眠与现有 task_checkpoints/task_attempts
|
||
语义对齐（recycle 保留两者，丢失临时文件）；goal 断点续跑
|
||
方法（goal_resume_breakpoint_task）已实现，worker 层对非
|
||
Local 执行器的断点续跑目前仍明确失败（见执行器 docstring），
|
||
后续 worker 接线是单独一轨，不在本轨假装已通。
|
||
- ⏳ 需 KVM 宿主实测：审计事件在真机任务 timeline 里的完整
|
||
呈现、失败分类与真实故障的对应关系，均未验证。
|
||
|
||
## 8. 多 VM 并发与容量
|
||
|
||
- ✅🧪 worker 注册：`_executor_name()` 返回 cloud-hypervisor，
|
||
worker register/heartbeat 已上报 executor + capacity（现有
|
||
机制复用，无需新表）。
|
||
- ✅🧪 多 VM 并行：`_vms` 登记 + 锁保护，wake 按任务名登记，
|
||
不同任务互不覆盖；容量门在 wake 前检查。
|
||
- ✅🧪 残留 VM 清理：cleanup_stale_vms 处理已死/已关/socket
|
||
残留三种情况，只清 chv- 前缀 socket。
|
||
- ✅🧪 容量不足明确拒绝：kind=host_capacity_exceeded，调用方
|
||
排队/拒绝，绝不降级 Docker/Local（测试断言 launcher 未调用）。
|
||
- 📈 需压测：多 VM 并行下的宿主容量、VM 启动并发上限、残留
|
||
清理在高压下的表现，均未测。
|
||
|
||
## 9. 默认关闭与生产启用条件（重申）
|
||
|
||
- ✅ 默认关闭：server 默认执行器仍是 docker，worker 默认 local；
|
||
CHV 只在显式选 executor 且有 CHV worker 时才跑；无 CHV_*
|
||
配置时 preflight 直接失败。
|
||
- ⏳ 生产启用前置（全部未完成）：带 /dev/kvm 的宿主开通 →
|
||
chv-guest 镜像构建发布 → 真实 VM 启动/快照恢复/任务端到端
|
||
验证 → 压测 → 安全审计 → CI 变绿后按当时 main 头复核 diff
|
||
再合并部署。缺一不可。
|