- robot.py numpy 恢复函数级 lazy import,纯 .mt 脚本执行不再需要 numpy(v3-P1-1) - export_onnx 写入训练配置元数据;onnx_infer 自动识别 normalize_mode/predict_delta 并支持残差加回(v3-P1-2) - pybot --loop 补 .onnx 后端分支,zscore 缺 action_stats.npy 时告警(P2-a 闭环) - 回归测试:actpred TestOnnxMetadata +7、pybot 零依赖导入 +1(88/148 全绿) - 附 v3 审计报告:13 项 v2 修复回归核对 + 7 项新发现(P0-2 遗留 + P2/P3 六项)
11 KiB
pybot & actpred 审计报告(第三版 —— v2 修复批次落地后)
审查日期:2026-08-14 (Asia/Shanghai) 审查人:AI Assistant(SOLO Coder) 审查范围:
pybot/(机器人运行时)与actpred/(动作预测)两模块 代码基线:v2 审计修复批次后(commit 85bf68f,工作区干净) 测试状态:pybot 88 passed;actpred 148 passed / 18 skipped(Windows 开发机,全绿; ONNX 类 18 项因本机无 onnxruntime/onnxscript 跳过,在 Pi 上运行)本报告对照 v2 报告逐项核对修复状态,并给出本轮新发现。
2026-08-14 更新:两个新 P1(v3-P1-1/v3-P1-2)与 P2-a 残余(ONNX 分支)已修复, 附回归测试(pybot +1 / actpred +7)。
一、审计结论摘要
| 级别 | 新发现 | 历史遗留(v2 未修复) | 说明 |
|---|---|---|---|
| P0(崩溃/数据损坏) | 0 | 1(P0-2 未修复即被提交) | 见 §三 |
| 见 §四 | |||
| P2(代码质量) | 3 | 6 | 见 §五 |
| P3(边缘/环境) | 2 | 0 | 见 §五 |
重点:P0-2 在 v2 标记为"必须提交前修复"但仍随 85bf68f 提交;两个新 P1 与 P2-a 残余已于本轮回合修复。
二、v2 修复项回归核对(13 项)
| # | v2 级别 | 状态 | 验证 |
|---|---|---|---|
| P0-1 HailoPredictor 缺 normalize_mode | P0 | ✅ 已修复 | main.py:163-193 从 companion checkpoint 读取并传入 |
| R2-1 NaN val_loss 阻断 best | P1 | ✅ 已修复 | train.py:270-274、pretrain_mt.py:361-364 isfinite 守卫,NaN 走 patience 早停 |
| P2-a 后端检测大小写敏感 | P1 | ✅ 已修复 | main.py:144-146 已 .lower();v3 补齐 .onnx → OnnxPredictor 分支(归一化模式经元数据自动识别,zscore 缺 stats 时告警) |
| P1-3 mt_parser BOM | P1 | ✅ 已修复 | mt_parser.py:33 utf-8-sig |
| R1-1 pretrain data_dir 覆盖 | P1 | ✅ 已修复 | pretrain_mt.py 不再赋值 cfg.data.data_dir |
| R2-7 _run.sh 静默回退 | P1 | ✅ 已修复 | _run.sh:17-20 未知子命令报错退出 |
| P2-a2 init-from 误报警告 | P2 | ✅ 已修复 | config.py:232 仅在双方归一化开启时比较 normalize_mode |
| R2-9 predict.py --action-dim 陷阱 | P2 | ✅ 已修复 | predict.py 已移除该参数,统一用 predictor.action_dim |
| R1-2 parse_action_history 三处重复 | P2 | ✅ 已修复 | 三推理文件均从 utils.py 导入 |
| R2-3 空验证集无 best.pt | P2 | ✅ 已修复 | train.py:309-324 保底保存最终权重 |
| P2-c 闭环测试覆盖 | P2 | ⚠️ 大部分修复 | test_loop.py 已含 recorder 集成(imu_recorded/multi_recorded);predictor 异常清理路径仍无用例 |
| P2-b numpy 三处 lazy import | P2 | ⚠️ 修复引入回归 | 改为顶层导入,破坏零依赖承诺 → 见新发现 v3-P1-1 |
| P0-2 normalize_actions 默认值 | P0 | ❌ 未修复 | config.py:14 仍为 True,README.md:170 仍标注 False |
三、P0 遗留
P0-2(v2 遗留,未修复即提交)DataConfig normalize_actions 默认值与 README 不一致
位置:actpred/config.py:14 vs actpred/README.md:170
normalize_actions: bool = True # README 配置表仍标注默认 False
问题:v2 报告给出的两个方案(A. 恢复默认 False;B. 改 README 为 True 并标注 breaking change)均未执行,不一致状态被 85bf68f 直接提交。CLI 不传 --normalize-actions 时行为与 README 描述相反。
修复建议:执行 v2 方案 B(改 README 为 True 并注明行为变更)——当前代码、测试(148 用例以此默认值运行)、训练实践均已按 True 落地,回退代码反而引入新风险。
四、P1 新发现
v3-P1-1 pybot 零第三方依赖承诺被打破(85bf68f 修 P2-b 的副作用)—— ✅ 已修复(2026-08-14)
修复:robot.py 顶层 import numpy 移除,7 个 numpy 使用函数(run_loop /
_loop_cold_start / _execute_action_vec / _read_imus / _pad_imu /
_build_action_vec / _grab_frame)恢复函数内 lazy import,并在导入块处
注明约定禁止恢复顶层导入。新增回归测试
test_loop.py::test_robot_importable_without_numpy(子进程屏蔽 numpy
验证模块可导入)。纯脚本路径零依赖承诺恢复,README 无需变更。
原问题:main.py 无条件 from .robot import RobotStruct,numpy 成为硬依赖。
v3-P1-2 OnnxPredictor 不支持 predict_delta,ONNX 无训练配置元数据 —— ✅ 已修复(2026-08-14)
修复:
- export_onnx.py:46-63 导出后写入
metadata_props(normalize_mode / predict_delta / imu_dim / action_dim; 未归一化训练记normalize_mode="none"); - onnx_infer.py:75-87 构造时从元数据 自动识别两参数(显式传参优先),predict():174-176 在归一化空间加回 history 末步(与 predict.py/hailo_infer 同语义);
- CLI
--normalize-mode缺省自动识别、新增--predict-delta; - README 部署注意已更正(含旧版无元数据 ONNX 的回退说明);
- 新增 TestOnnxMetadata 7 用例(元数据写入/回读/覆盖/残差加回数值), 本机无 onnxruntime 跳过,随 Pi 环境运行。
原问题:残差训练模型经 export_onnx.py 导出后,ONNX 推理输出被当作绝对动作——静默错误。
五、P2/P3 新发现
v3-P2-1 验收脚本链未适配 fixed_range
位置:actpred/_npu_test.py:64-71、_onnx_validate.py:28-39
两脚本在 normalize_actions=True 时无条件 np.load(action_stats.npy):fixed_range 训练不产出该文件 → FileNotFoundError;_npu_test.py 构造 HailoPredictor 时也未传 normalize_mode(默认 zscore),torch 参考只对 z-score 反归一化。fixed_range 模型无法通过部署验收(恰好是最推荐部署的模式)。建议按 checkpoint config 的 normalize_mode 分支处理(同 hailo_infer main 的自动判定逻辑)。
v3-P2-2 导出一致性校验只打印不拦截
位置:export_deploy.py:283、export_deploy.py:295、export_onnx.py:59
wrapper vs 原模型、ORT vs wrapper 的 max diff 均仅 print,进程照常退出 0。ManualAttnBlock 依赖 PyTorch 内部布局约定(v2 P2-f 遗留),一旦上游变更布局,转换错误在自动化流水线中完全无感。建议加阈值断言(如 diff > 1e-4 → SystemExit)。
v3-P2-3 run_loop overrun 逐步告警日志噪音 + 建议阈值偏离约束
每个 overrun 步都 log.warning——10Hz 持续 50% overrun 时每秒 5 条告警刷屏;且工程约束要求"overrun 比例 >10% 才建议降 hz",当前 L318-321 只要 overrun>0 就给建议。建议:逐步告警改节流(如每 100 步汇总一次),最终建议仅在比例 >10% 时输出。
v3-P3-1 dfc_compile.py --output 无 .hef 后缀时产物互相覆盖
args.output.replace(".hef", "_optimized.har") 在无后缀时返回原路径,shutil.copy(har_opt, ...) 把 HAR 写到刚复制的 HEF 同路径,静默损坏产物。建议校验 --output 必须以 .hef 结尾。
v3-P3-2 pybot Windows 测试依赖命令行 fcntl mock
顶层 import fcntl(Unix-only),Windows 下 conftest 自身 import i2c 即失败,需命令行注入 sys.modules['fcntl'] mock 才能跑测试(87 passed 即以此方式验证)。建议在 conftest.py 内置同等 mock(一行,先于 i2c import),消除外部依赖。
六、v2 遗留 P2(仍未修复,维持原判级)
| # | 位置 | 问题 | 备注 |
|---|---|---|---|
| P2-a1 | action_norm.py:55-62 | default_column_weights 对 action_dim>18 的超出列权重恒 0 |
未来扩展性 |
| P2-a3 | README.md:172 | column_weights 始终生效(含不归一化训练)未在文档注明 | 文档补一句即可 |
| P2-d | dataset.py:46 | Resize 不保持宽高比 | 训练/推理口径一致,仅变形质量 nit |
| P2-e | train.py:236,248 | resume 时 scheduler T_max 恢复旧值,改 --epochs 不影响 LR 曲线 | 语义需在文档明确 |
| P2-f | export_deploy.py:42-59 | ManualAttnBlock 依赖 PyTorch in_proj 内部布局 | 数值验证已缓解,配合 v3-P2-2 加断言更稳 |
| R2-4 | actpred/_set.sh | CUDA 版 torch 误装风险 | 安装脚本注意事项 |
七、修复优先级
| 优先级 | 项 | 理由 |
|---|---|---|
| P0 | P0-2 README 与默认值对齐(方案 B) | 一行文档修复,消除行为与文档相悖 |
| 零依赖承诺已恢复,附子进程回归测试 | ||
| 元数据写入/识别/残差加回全链路 + 7 用例 | ||
| P2 | v3-P2-1 验收脚本 fixed_range 适配 | fixed_range 是最推荐部署模式,验收链不能缺席 |
| P2 | v3-P2-2 导出 diff 阈值断言 | 一行拦截,防布局约定变更静默穿透 |
| P2 | v3-P2-3 overrun 告警节流 + 10% 阈值 | 对齐工程约束,消除日志刷屏 |
| P3 | v3-P3-1/-P3-2 | 边缘情况与开发环境便利 |
八、本轮复核确认无问题的关键路径
- 训练链:weighted MSE 量级归一、scheduled sampling detach 截断、空验证集兜底、stats 训练集-only 计算(含 history∪target 并集防零方差爆炸)、文件级划分防泄漏——均正确。
- 推理链三后端:normalize/denormalize 对称、predict_delta 加回在归一化空间、imu_dim=None 鸭子类型兼容旧 checkpoint、NaN/Inf 输出兜底——均正确。
- 部署链:HAR 输入连通性双阶段检查、pred_token 抖动校准、按 input_layerN 排序绑定、量化网格 dequant(0) 判定帧归一化、token 量级导出前拦截——均正确。
- pybot 闭环:守护线程队列帧源、冷启动零历史、finally 落盘 recorder、执行前 isfinite 守卫、Speaker.delay 剔除防阻塞——均正确。
本报告为 v2 修复批次后的回归+新发现审计。建议优先闭环 P0-2(文档一行)与两个新 P1。