actpred: 两轮代码审计修复与文档合并
- 第 1 轮安全审计修复: F-1~F-10(路径校验、预训练架构修正等) - 第 2 轮复审修复 11 项: 3 项上轮修复不完整(R01 checkpoint 键校验/ R02 fused_hidden_dim 值域/R03 pretrained=False)+ 8 项新问题 (actions.npy 形状校验、帧数警告、CLI 值域校验、stats 形状与路径、 onnxscript 依赖、归一化语义、解析去重) - 单元测试由 17 扩展至 51 用例(50 通过 + 1 环境性跳过) - 审计文档两轮合并至 actpred_CODE_AUDIT_20260808.md,更新 INDEX
This commit is contained in:
1 parent
23a855963b
commit
63cfdd2066
15 files changed
+960
-65
No files matched your search
+3
-2
@@ -7,7 +7,7 @@
|
||||
```
|
||||
docs/
|
||||
├── INDEX.md # 本文件(文档总索引)
|
||||
├── security/ # 安全审计与加固(25 篇)
|
||||
├── security/ # 安全审计与加固(26 篇)
|
||||
├── reviews/ # 代码审查日志(4 篇)
|
||||
└── reports/ # 分析报告与开发规划(9 篇)
|
||||
```
|
||||
@@ -57,6 +57,7 @@ docs/
|
||||
| libth | [libth_SECURITY_AUDIT_20260804.md](security/libth_SECURITY_AUDIT_20260804.md) | C++ 线程库(Thread、Cv_wait、Fsm) |
|
||||
| aibox | [aibox_SECURITY_AUDIT_20260801.md](security/aibox_SECURITY_AUDIT_20260801.md) | Python AI 智能体系统(WebSocket) |
|
||||
| BotOps | [BotOps_SECURITY_AUDIT_20260801.md](security/BotOps_SECURITY_AUDIT_20260801.md) | BotOps 运维控制面板 |
|
||||
| actpred | [actpred_SECURITY_AUDIT_20260808.md](security/actpred_SECURITY_AUDIT_20260808.md) | Python 动作预测模块(PyTorch 训练/推理、.mt 解析、ONNX 导出) |
|
||||
|
||||
---
|
||||
|
||||
@@ -66,7 +67,7 @@ docs/
|
||||
|------|------|
|
||||
| [core_CODE_REVIEW_LOG_20260730.md](reviews/core_CODE_REVIEW_LOG_20260730.md) | Core 模块代码审查日志(2026-07-30,自动化审查) |
|
||||
| [DEPLOY_DEFECT_AUDIT_20260806.md](reviews/DEPLOY_DEFECT_AUDIT_20260806.md) | 部署缺陷审查(2026-08-06,首次原生部署实录,含修复记录) |
|
||||
| [actpred_CODE_AUDIT_20260808.md](reviews/actpred_CODE_AUDIT_20260808.md) | actpred 模块代码审计(2026-08-08,PyTorch 动作预测,16 项发现,全部修复) |
|
||||
| [actpred_CODE_AUDIT_20260808.md](reviews/actpred_CODE_AUDIT_20260808.md) | actpred 模块代码审计(2026-08-08,两轮合并:第 1 轮 16 项 + 第 2 轮复审 11 项,共 27 项全部修复) |
|
||||
| [bot4cj_CODE_AUDIT_20260808.md](reviews/bot4cj_CODE_AUDIT_20260808.md) | bot4cj 模块代码审计(2026-08-08,仓颉机器人硬件脚本解析器,15 项发现,待修复) |
|
||||
|
||||
---
|
||||
|
||||
@@ -1,8 +1,11 @@
|
||||
# actpred 模块代码审计报告
|
||||
# actpred 模块代码审计报告(第 1 轮 + 第 2 轮复审)
|
||||
|
||||
> 审查日期:2026-08-08 (Asia/Shanghai)
|
||||
> 审查人:Automated Review
|
||||
> 审查范围:`actpred/` 全模块(Python,PyTorch 动作预测神经网络)
|
||||
>
|
||||
> **文档合并说明**:本文档为两轮审计的合并版——第 1 轮(16 项发现,全部修复)见 §二~§七;
|
||||
> 第 2 轮复审(11 项发现,含 3 项上轮修复不完整,全部修复)见 §八。
|
||||
|
||||
---
|
||||
|
||||
@@ -345,3 +348,135 @@ OK
|
||||
---
|
||||
|
||||
*本报告由自动化代码审计生成,供开发团队参考。修复建议需结合实际场景评估。*
|
||||
|
||||
---
|
||||
|
||||
## 八、第 2 轮复审(2026-08-08)
|
||||
|
||||
> 前置文档:[第 1 轮安全审计](../security/actpred_SECURITY_AUDIT_20260808.md)(10 项发现,全部标记已修复 ✅)
|
||||
|
||||
### 8.1 复审方法
|
||||
|
||||
本轮采用**静态通读 + 动态验证**:除逐文件复查全部源码外,对疑点编写了针对性复现脚本(checkpoint 畸形 config、值域校验边界、数据形状不匹配、CLI 越界参数等),**所有结论均以实测输出为准**,不采信审计文档的"已修复"标记。
|
||||
|
||||
实测环境:Intel Xeon E3-1200 v2, Linux 24.04, PyTorch CPU-only。第 1 轮审计后测试已扩展至 **39 用例(38 通过 + 1 环境性跳过)**。
|
||||
|
||||
### 8.2 复审结论摘要
|
||||
|
||||
| 类别 | 数量 | 说明 |
|
||||
|------|------|------|
|
||||
| A 类:上轮"已修复"标记与实现不符(修复不完整/未覆盖) | 3 | ACT-R01 ~ ACT-R03,均涉及安全审计 F-3 / F-8 的修复遗漏 |
|
||||
| B 类:新发现问题 | 8 | ACT-R04 ~ ACT-R11,数据校验、CLI 校验、部署约定、文档缺口 |
|
||||
| **合计** | **11** | 无 P0/P1,全部为 P3 级;安全评级维持 **B+**;**全部已修复 ✅** |
|
||||
|
||||
模块仍为离线 CLI 工具(不监听端口、不联网、输入均来自本机可信路径),无远程可利用漏洞。本轮问题集中在**输入健壮性、修复覆盖完整性、部署约定文档化**。
|
||||
|
||||
### 8.3 A 类:上轮修复项复审(3 项)
|
||||
|
||||
#### [ACT-R01] checkpoint config 多余键仍抛裸 TypeError(F-8 声称已修复,实际未修复)🟡 P3 ✅ 已修复
|
||||
|
||||
- **位置**: `predict.py`、`export_onnx.py`(`DataConfig(**cfg_dict["data"])` / `ModelConfig(**cfg_dict["model"])`)
|
||||
- **上轮声明**: 安全审计 F-8 描述为"多余键触发裸 TypeError",修复项为新增 `validate_config_values()`,结论"已修复 ✅"
|
||||
- **实测**: 向 checkpoint config 的 `data` 段注入未知键 `evil_extra_key`,加载时抛 `TypeError: DataConfig.__init__() got an unexpected keyword argument 'evil_extra_key'`。`validate_config_values` 在 `DataConfig(**...)` **之后**才被调用,未知键在构造阶段即崩溃,校验函数根本无法执行。
|
||||
- **影响**: 畸形/损坏 checkpoint(或未来 config 结构演进产生的多余键)报错信息不含文件名与上下文;上轮"已修复"结论与实现不符。
|
||||
- **修复**: 新增 `parse_checkpoint_config()`,构造前校验键集合,未知键/缺段/非 dict 抛带键名的 ValueError。
|
||||
|
||||
#### [ACT-R02] validate_config_values 遗漏 fused_hidden_dim,恶意 checkpoint 可致 OOM(F-8 修复不完整)🟡 P3 ✅ 已修复
|
||||
|
||||
- **位置**: `config.py`
|
||||
- **实测**: 设 `model.fused_hidden_dim = 10**9`,`validate_config_values` **通过**;构造 `ActionPredictor` 时 `FusionHead` 分配内存抛 `RuntimeError ... DefaultCPUAllocator: can't allocate`。另有 `dropout`(可 <0 或 >1)也未被校验。
|
||||
- **影响**: 与 F-8 防护目标(恶意/损坏 checkpoint 防内存耗尽)直接冲突——攻击面同类、防护漏了 `fused_hidden_dim`。
|
||||
- **修复**: 校验表补充 `fused_hidden_dim ∈ [1, 4096]`、`dropout ∈ [0, 1]`,并扩展 train 字段校验(lr/val_split/batch_size/epochs/patience/num_workers/max_grad_norm/weight_decay)。
|
||||
|
||||
#### [ACT-R03] pretrain_mt.py 未传 pretrained=False,mobilenet 离线预训练仍失败(F-3 修复不完整)🟡 P3 ✅ 已修复
|
||||
|
||||
- **位置**: `pretrain_mt.py`
|
||||
- **实测**: `model = ActionPredictor(cfg.model, cfg.data)` **未传 `pretrained=False`**。`--backbone mobilenet` 时构造即尝试下载 ImageNet 权重(~14MB):① 离线/受限网络环境下预训练直接 `RuntimeError`;② 零图像预训练会用 `load_state_dict` 全程覆盖这些权重,下载纯属浪费。
|
||||
- **影响**: F-3 的修复只覆盖了"推理/导出"两个入口,遗漏了第三个模型构造入口(预训练)。当前默认 backbone=simple 未触发,属潜伏问题。
|
||||
- **修复**: 构造模型传 `pretrained=False`。
|
||||
|
||||
### 8.4 B 类:新发现问题(8 项)
|
||||
|
||||
#### [ACT-R04] ActionDataset 不校验 actions.npy 列数与 action_dim 一致性 🟡 P3 ✅ 已修复
|
||||
|
||||
- **位置**: `dataset.py`
|
||||
- **实测**: 构造 6 列 `actions.npy` 配 `action_dim=4`,数据集**加载成功**,样本 `action_history` 形状 (3, 6);直到训练 `DataLoader` collate 阶段才因形状不一致报错,错误远离数据源头且信息不友好。
|
||||
- **修复**: 加载后校验 `actions.ndim == 2 and actions.shape[1] == action_dim`,否则抛带 episode 路径的 ValueError。
|
||||
|
||||
#### [ACT-R05] 图像/动作帧数不匹配时静默截断,无任何警告 🟡 P3 ✅ 已修复
|
||||
|
||||
- **位置**: `dataset.py`(`n = min(n_frames, n_images)`)
|
||||
- **实测**: 12 帧动作 + 8 张图像,数据集静默按 8 帧使用,**尾部 4 帧动作被丢弃且无提示**。
|
||||
- **修复**: `n_frames != n_images` 时打印 WARNING(含 episode 路径与数量)。
|
||||
|
||||
#### [ACT-R06] 训练 CLI 参数无值域校验,越界值静默接受 🟡 P3 ✅ 已修复
|
||||
|
||||
- **位置**: `config.py`(`apply_overrides`)、`train.py`
|
||||
- **实测**: `--history-len 0`、`--val-split 2.0`、`--lr -1` **全部静默接受**并进入训练:`history_len=0` 产生空 history 样本;`val_split=2.0` 验证集吞掉全部 episode;`lr=-1` loss 发散。
|
||||
- **对比**: `validate_config_values()` 只被推理/导出路径调用,**训练 CLI 完全不校验**——同一份参数两套待遇。
|
||||
- **修复**: train.py / pretrain_mt.py 在 `apply_overrides` 后调用 `validate_config_values(cfg.data, cfg.model, cfg.train)`。
|
||||
|
||||
#### [ACT-R07] predict.py 加载 action_stats.npy 不校验形状 🟡 P3 ✅ 已修复
|
||||
|
||||
- **位置**: `predict.py`
|
||||
- **实测**: `action_stats.npy` 形状错误(如 (2, 7) 配 action_dim=4)时加载成功,推理阶段抛难以定位的广播错误 `ValueError: operands could not be broadcast together with shapes (3,4) (7,)`。
|
||||
- **修复**: 加载后校验 `stats.shape == (2, action_dim)`,并强制转 float32(兼容 float64 stats)。
|
||||
|
||||
#### [ACT-R08] 推理端硬编码 stats 路径约定,config 中 action_stats_path 为死字段 🟡 P3 ✅ 已修复
|
||||
|
||||
- **位置**: `predict.py` vs `train.py`、`config.py`
|
||||
- **描述**: 训练时 `action_stats_path` 被写入 checkpoint config;但推理端**从不读取该字段**,硬编码从 checkpoint 同目录找 `action_stats.npy`。部署约定(stats 必须与 checkpoint 同目录、同名)未在任何文档说明。
|
||||
- **修复**: 推理端优先解析 config 记录的 `action_stats_path`(相对路径按 checkpoint 目录解析),旧 checkpoint 回退同目录约定;README 新增「部署注意」章节。
|
||||
|
||||
#### [ACT-R09] README 未说明 ONNX 导出硬依赖 onnxscript,按文档执行直接失败 🟡 P3 ✅ 已修复
|
||||
|
||||
- **位置**: `README.md`、`export_onnx.py`、`_set.sh`
|
||||
- **实测**: 当前 venv(torch 2.13)执行 `bash _run.sh export` 抛 `ModuleNotFoundError: No module named 'onnxscript'`——torch ≥2.12 的 `torch.onnx.export` 走 dynamo 路径,onnxscript 为硬依赖。
|
||||
- **修复**: `_set.sh` 增加 onnxscript/onnxruntime 安装;README 补充依赖说明。
|
||||
|
||||
#### [ACT-R10] 预训练-微调归一化语义不匹配(方法论)🟡 P3 ✅ 已修复
|
||||
|
||||
- **位置**: `pretrain_mt.py`(全程无归一化)vs `train.py`(`--normalize-actions` 支持)
|
||||
- **描述**: 预训练始终在**非归一化**动作空间训练;若微调时开启 `--normalize-actions`,`--init-from` 加载的预训练权重将在**归一化空间**继续训练,输入分布突变。
|
||||
- **修复**: README 微调示例注明「预训练权重搭配非归一化微调使用」。
|
||||
|
||||
#### [ACT-R11] MTActionDataset 命名误导 + parse_mt_directory 重复解析 3 次 🟡 P3 ✅ 已修复
|
||||
|
||||
- **位置**: `pretrain_mt.py`(`n_rows = matrix.shape[1]` 实为**列数**)
|
||||
- **描述**: ① 变量名 `n_rows` 取自 `shape[1]`(列数),与直觉相反,易在后续维护中引入行列颠倒 bug;② `main()` 先 `parse_mt_directory` 一次做文件级划分,train_ds / val_ds 构造时又各解析一次全部文件,**同一目录共解析 3 次**。
|
||||
- **修复**: 改名 `n_cols`;`MTActionDataset` 新增 `files` 参数复用预解析结果,解析次数 3 次 → 1 次。
|
||||
|
||||
### 8.5 测试覆盖缺口(复审确认)
|
||||
|
||||
复审时 `test_actpred.py` 39 用例,以下路径无覆盖:checkpoint config 异常结构(多余键/缺段)、`validate_config_values` 的 model/train 字段、`ActionDataset` 归一化正常路径、`actions.npy` 列数不匹配/帧数不匹配、`split_episodes` 边界、`train.py`/`pretrain_mt.py` 的 `main()` 端到端、stats 形状错误。
|
||||
|
||||
### 8.6 修复记录(全部 ✅)
|
||||
|
||||
> 修复时间:2026-08-08(复审当日)
|
||||
> 全部 11 项问题已修复并验证,单元测试由 39 用例扩展至 **51 用例(50 通过 + 1 环境性跳过)**。
|
||||
|
||||
| 问题 | 修复内容 | 文件 |
|
||||
|------|----------|------|
|
||||
| ACT-R01 | 新增 `parse_checkpoint_config()`:校验 config 键集合,未知键/缺段/非 dict 抛带键名的 ValueError | config.py、predict.py、export_onnx.py |
|
||||
| ACT-R02 | 校验表补充 `fused_hidden_dim ∈ [1,4096]`、`dropout ∈ [0,1]`,并扩展 train 字段校验 | config.py |
|
||||
| ACT-R03 | `pretrain_mt.py` 构造模型传 `pretrained=False`,消除零图像预训练的无谓下载与离线失败 | pretrain_mt.py |
|
||||
| ACT-R04 | `actions.npy` 加载后校验 `ndim==2 且 shape[1]==action_dim`,否则抛带 episode 路径的 ValueError | dataset.py |
|
||||
| ACT-R05 | 帧数不匹配打印 WARNING(含 episode 路径与数量) | dataset.py |
|
||||
| ACT-R06 | train.py / pretrain_mt.py 在 `apply_overrides` 后调用 `validate_config_values(cfg.data, cfg.model, cfg.train)` | train.py、pretrain_mt.py |
|
||||
| ACT-R07 | stats 加载后校验形状 `(2, action_dim)`,并强制转 float32(兼容 float64 stats) | predict.py |
|
||||
| ACT-R08 | 推理端优先解析 checkpoint config 记录的 `action_stats_path`(相对路径按 checkpoint 目录解析),旧 checkpoint 回退同目录约定;README 新增「部署注意」 | predict.py、README.md |
|
||||
| ACT-R09 | `_set.sh` 增加 onnxscript/onnxruntime 安装;README 补充依赖说明 | _set.sh、README.md |
|
||||
| ACT-R10 | README 微调示例注明「预训练权重搭配非归一化微调使用」 | README.md |
|
||||
| ACT-R11 | `n_rows` 改名 `n_cols`;`MTActionDataset` 新增 `files` 参数复用预解析结果,解析次数 3 次 → 1 次 | pretrain_mt.py |
|
||||
|
||||
### 8.7 验证记录
|
||||
|
||||
- 全部 51 项单元测试通过(`Ran 51 tests ... OK (skipped=1)`)
|
||||
- 复现脚本确认:多余键 → ValueError(含键名);fused_hidden_dim=10⁹ → 加载期拦截(不再 OOM);stats 形状错误 → ValueError(含路径与期望形状);`--lr -1` → CLI 拦截
|
||||
- 预训练端到端(3 个 .mt、3 epochs)正常,空验证集保底保存路径正确
|
||||
- 推理端 stats 双路径(config 相对路径 / 同目录回退)均验证通过
|
||||
- 上轮声称的亮点机制(weights_only、文件级划分、stats 隔离、保底保存等)经复查**均属实**
|
||||
|
||||
---
|
||||
|
||||
*本文档为两轮审计合并版:第 1 轮(§二~§七)+ 第 2 轮复审(§八),全部 27 项发现均已修复,修复项均经回归验证。*
|
||||
@@ -0,0 +1,131 @@
|
||||
# actpred 安全审计报告
|
||||
|
||||
**审计日期**: 2026-08-08
|
||||
**审计范围**: `actpred/`(config.py / model.py / dataset.py / train.py / pretrain_mt.py / mt_parser.py / predict.py / export_onnx.py / test_actpred.py / _run.sh / _set.sh / requirements.txt,共 ~1100 行)
|
||||
**审计轮次**: 第 1 轮
|
||||
**安全评级**: B+
|
||||
|
||||
---
|
||||
|
||||
## 1. 审计概述
|
||||
|
||||
actpred 是动作预测模块(图像 + 动作历史 → 下一动作回归,PyTorch),为**离线 CLI 工具**:不监听端口、不接入 pymsg/HTTP,无对外网络暴露面。攻击面收敛为三类输入:
|
||||
|
||||
1. **模型 checkpoint**(`torch.load`,pickle 反序列化风险点)
|
||||
2. **训练数据**(`actions.npy` / 图像文件 / `.mt` 脚本)
|
||||
3. **依赖供应链**(pip 安装、MobileNetV2 预训练权重下载)
|
||||
|
||||
本轮发现 **10 项问题(0 P0 / 0 P1 / 3 P2 / 7 P3)**,全部已修复;另确认 8 项已有良好机制。由于模块不联网、输入均来自本机可信路径,未发现可远程利用的漏洞,问题集中在**功能正确性与方法论**层面。
|
||||
|
||||
---
|
||||
|
||||
## 2. 发现问题
|
||||
|
||||
### F-1: 微调闭环缺失 —— pretrain 完成后打印的命令无法执行 ✅ 已修复
|
||||
|
||||
- **等级**: P2(功能性)
|
||||
- **位置**: `pretrain_mt.py` L258-259、`train.py`(全文)、`README.md` L46-47
|
||||
- **问题**: 预训练结束时提示 `Fine-tune: bash _run.sh train --data-dir ./data --model <path>`,但 `train.py` 的 argparser(`config.build_argparser`)**没有 `--model` 参数**,也没有任何加载预训练权重的逻辑——照提示执行会直接 argparse 报错退出。README 也承认"需修改 train.py 加载逻辑,或手动加载"。预训练产物(`pretrain_best_inference.pt`)目前只能用于直接推理,无法进入微调流程,预训练的核心价值(初始化 action_encoder / fusion_head)落不了地。
|
||||
- **修复**: `config.build_argparser` 新增 `--init-from` 参数;`train.py` 模型构造后以 `torch.load(weights_only=True)` + `load_state_dict(strict=False)` 加载预训练权重(打印 missing/unexpected keys);`pretrain_mt.py` 完成提示 `--model` → `--init-from`;README 微调示例同步更新。验证:现有 pretrain checkpoint 加载后 missing=0、unexpected=0,完全兼容。
|
||||
|
||||
### F-2: 预训练 train/val 按样本级随机划分,滑动窗口重叠导致数据泄漏 ✅ 已修复
|
||||
|
||||
- **等级**: P2(方法论)
|
||||
- **位置**: `pretrain_mt.py` L153-162
|
||||
- **问题**: `MTActionDataset` 用滑动窗口采样(步长 1),相邻样本共享 `history_len-1 = 4` 行数据;随后按**样本索引**随机划分 train/val。验证集中几乎每个样本都与某个训练样本高度重叠 → **val_loss 系统性偏乐观**,早停与模型选择基于失真信号(上次预训练的 best val_loss=190.58 可信度打折)。对照 `train.py` 是按 **episode 级**划分(正确做法),预训练未沿用。
|
||||
- **修复**: `MTActionDataset` 新增 `file_indices` 参数,只加载指定索引的 .mt 文件;`main()` 改为先 `parse_mt_directory` 获取文件列表,按文件级随机划分(train/val 文件不重叠),再分别构造两个 dataset——每个文件的全部滑动窗口只进一个集合。移除不再使用的 `Subset` 导入。验证:13 个有效 .mt 文件 → 12 train / 1 val(20+2 样本),无跨集窗口重叠。
|
||||
|
||||
### F-3: 推理加载 mobilenet checkpoint 会触发 ImageNet 权重网络下载(离线失败 + 无谓供应链面) ✅ 已修复
|
||||
|
||||
- **等级**: P2
|
||||
- **位置**: `model.py` L29-45(`MobileNetEncoder.__init__`)、`predict.py` L24 / `export_onnx.py` L18
|
||||
- **问题**: `MobileNetEncoder` 构造时无条件下载 `MobileNet_V2_Weights.DEFAULT`(ImageNet 预训练权重)。推理/导出路径(`ActionPredictorInference`、`export_onnx`)构造模型后紧接着 `load_state_dict` **完全覆盖**这些权重——下载纯属浪费,且引入两个问题:① 离线/受限网络环境下,backbone=mobilenet 的 checkpoint **无法推理**(构造即抛 RuntimeError);② 推理路径引入不必要的外部权重下载(供应链面扩大)。当前默认 backbone=simple 未触发,属潜伏问题。
|
||||
- **修复**: `MobileNetEncoder` 与 `ActionPredictor` 新增 `pretrained: bool = True` 参数;`pretrained=False` 时传 `weights=None`(不下载 ImageNet 权重,仅初始化架构)。`predict.py` 和 `export_onnx.py` 构造模型时传 `pretrained=False`,训练路径保持默认 `True` 不变。
|
||||
|
||||
### F-4: mt_parser 行列不一致静默容错,解析失败静默跳过整个文件 ✅ 已修复
|
||||
|
||||
- **等级**: P3(数据完整性)
|
||||
- **位置**: `mt_parser.py` L61-67、L85-90
|
||||
- **问题**: ① 数据行比表头**短**时,缺失列静默保持 0.0(错误数据混入训练集无告警);数据行比表头**长**时 `matrix[i, j]` 直接 IndexError;② `parse_mt_directory` 对 `ValueError` 一律 `pass`(无 @Action 块、数值非法等),文件被**静默丢弃**——训练数据缺失无任何日志,且 IndexError 不在捕获范围会直接崩溃。
|
||||
- **修复**: 行列不一致时抛带行号的 ValueError;数值解析失败抛带行列号的 ValueError;`parse_mt_directory` 捕获 `Exception`(含 IndexError)并打印 `WARNING: 跳过 .mt 文件 <path>: <reason>`。
|
||||
|
||||
### F-5: mt_parser 首行 `-` 占位符填 0.0,与 bot4cj 语义不符 ✅ 已修复
|
||||
|
||||
- **等级**: P3(数据保真度)
|
||||
- **位置**: `mt_parser.py` L64-65
|
||||
- **问题**: bot4cj 中 `-` 表示"沿用上一状态",首行的上一状态是 `@Servo` 块的初始角度;actpred 解析器对首行 `-` 一律填 0.0。实测 `jump.mt` 首行 `-` 恰好对应 0 值舵机未失真,但这是巧合——初始角非 0 的脚本首行样本会引入错误的(history, target)对。
|
||||
- **修复**: 新增 `_parse_servo_init()` 解析 `@Servo` 块的 `max` 列(舵机初始角度);`parse_mt_action` 根据列名(如 `s1.A` → 查 `s1`)为每列计算初始值,首行 `-` 从对应舵机初始角填充,无映射的列(如 `spk.F`)填 0.0。验证:`jump.mt` 首行 s2.A=180、s4.A=-180 与 @Servo 定义一致。
|
||||
|
||||
### F-6: parse_action_history 用 assert 做输入校验,`python -O` 下失效 ✅ 已修复
|
||||
|
||||
- **等级**: P3
|
||||
- **位置**: `predict.py` L72-73
|
||||
- **问题**: 维度校验依赖 `assert`,优化模式(`python -O`)下被剥离,畸形输入将以错误形状进入 `np.array`(可能产生 object 数组或错误广播)。
|
||||
- **修复**: 改为显式 `raise ValueError`;同步更新 `test_actpred.py` 中 `test_wrong_dim_raises` 的断言类型(AssertionError → ValueError)。
|
||||
|
||||
### F-7: DataRecorder 不校验 action 维度,episode 目录分配非原子 ✅ 已修复
|
||||
|
||||
- **等级**: P3
|
||||
- **位置**: `dataset.py` L100-120
|
||||
- **问题**: ① 构造时接收 `action_dim` 但 `record()` 从不校验 `action.shape`——录错维度的动作会在 `flush()` 时静默写出畸形 `actions.npy`(或 `np.array` 构造 object 数组),下游训练才暴露;② episode 索引通过 glob 扫描 + max 计算,两个并发 Recorder 会分配到同一目录互相覆盖。
|
||||
- **修复**: `record()` 增加 `action.shape != (action_dim,)` 校验抛 ValueError;目录创建改为 `mkdir(exist_ok=False)` + `FileExistsError` 重试递增 ep_idx,保证原子性。
|
||||
|
||||
### F-8: checkpoint 内嵌 config 未做值域校验 ✅ 已修复
|
||||
|
||||
- **等级**: P3(低风险)
|
||||
- **位置**: `predict.py` L16-18、`export_onnx.py` L14-16
|
||||
- **问题**: `torch.load(weights_only=True)` 已阻断 pickle 代码执行(✅),但 checkpoint 中的 config 字典仍被直接用于建模:恶意/损坏 checkpoint 可设置超大 `image_size`/`history_len`/`cnn_feature_dim` 造成内存耗尽,或多余键触发裸 TypeError。本模块 checkpoint 来源为本机训练产物,实际风险低。
|
||||
- **修复**: `config.py` 新增 `validate_config_values()` 函数,对 image_size/history_len/action_dim/cnn_feature_dim/action_hidden_dim 做合理性上限校验([1,1024] 或 [1,4096]);`predict.py` 和 `export_onnx.py` 加载 config 后调用校验。
|
||||
|
||||
### F-9: venv 实际依赖违反 requirements.txt 版本约束 ✅ 已修复
|
||||
|
||||
- **等级**: P3(供应链/一致性)
|
||||
- **位置**: `_set.sh` L8-11、`requirements.txt` L5
|
||||
- **问题**: 实测 venv 中 `Pillow==12.2.0`,违反 `Pillow>=9.0,<12.0` 上限。原因是 `_set.sh` 先从 PyTorch 源装 torch/torchvision(torchvision 无约束地拉入最新 Pillow),再装 requirements 时未强制降级(或安装顺序导致约束未生效)。声明与实际环境脱节,版本上限形同虚设;且无 hash 锁定。
|
||||
- **修复**: `requirements.txt` 中 Pillow 上限放宽至 `<14.0`(torchvision 依赖管理,加注释说明);`_set.sh` 末尾新增 `pip check` 验证依赖一致性。
|
||||
|
||||
### F-10: `--seed` 对 episode 划分不生效 ✅ 已修复
|
||||
|
||||
- **等级**: P3(可复现性)
|
||||
- **位置**: `train.py` L78-79
|
||||
- **问题**: `split_episodes(cfg.data.data_dir, cfg.train.val_split)` 未传 `cfg.train.seed`,函数内硬编码默认 `seed=42`。用户指定 `--seed 123` 时权重初始化、DataLoader 洗牌均变化,唯独 train/val episode 划分不变,可复现性语义不完整(也可视为"划分稳定"的特性,但与参数预期不符)。
|
||||
- **修复**: `split_episodes()` 调用处显式传入 `seed=cfg.train.seed`。
|
||||
|
||||
---
|
||||
|
||||
## 3. 已确认的良好机制
|
||||
|
||||
| # | 机制 | 位置 |
|
||||
|---|------|------|
|
||||
| 1 | `torch.load(..., weights_only=True)`,阻断 checkpoint pickle 反序列化 RCE | predict.py L15、export_onnx.py L13 |
|
||||
| 2 | `np.load` 默认 `allow_pickle=False`(numpy ≥1.16.3),npy 文件无 pickle 风险 | dataset.py L41、predict.py L45 |
|
||||
| 3 | 归一化统计量只用训练集计算再供验证集复用,避免统计泄漏 | train.py L86-91 |
|
||||
| 4 | 空验证集返回 `inf` 不参与 best 比较,避免假 best;并有保底保存 | train.py L56-57、L158-164 |
|
||||
| 5 | 图像文件自然排序(`1.jpg < 10.jpg`),避免帧序错乱 | dataset.py L12-14 |
|
||||
| 6 | 全局种子固定(random/numpy/torch/cuda + DataLoader generator)、梯度裁剪、早停 | train.py L69-73、L106-110 |
|
||||
| 7 | ONNX 导出后自动做数值一致性验证(如安装 onnxruntime) | export_onnx.py L40-52 |
|
||||
| 8 | 推理/训练双 checkpoint 分离(best.pt 含 optimizer / best_inference.pt 纯权重),格式互相兼容 | train.py、pretrain_mt.py |
|
||||
|
||||
---
|
||||
|
||||
## 4. 测试覆盖缺口 ✅ 已补齐
|
||||
|
||||
首轮审计时 `test_actpred.py` 仅 17 用例,覆盖自然排序、动作历史解析、模型前向(simple + mlp/gru)、DataRecorder、ActionDataset、config 覆盖机制。以下缺口已全部补齐(现 **39 用例,38 通过 + 1 环境性跳过**):
|
||||
|
||||
- ✅ `mt_parser.py`(新增 7 用例):正常解析 + `-` 前向填充、首行 `-` 从 @Servo 初始角填充、无 @Action 块 / 仅表头 / 行列不一致 / 数值非法各自抛 ValueError、`parse_mt_directory` 跳过坏文件并打印 WARNING
|
||||
- ✅ `pretrain_mt.py`(新增 4 用例):MTActionDataset 滑动窗口样本数与 target 值、列数 < action_dim 补零、> 截断、`file_indices` 文件级过滤
|
||||
- ✅ `ActionPredictorInference` 端到端(新增 6 用例):checkpoint 保存 → 加载 → 推理(形状/有限性/确定性)、加载权重与保存权重逐张量一致、history 形状错误抛 ValueError、归一化缺 action_stats.npy 抛 FileNotFoundError、恒等统计量(mean=0/std=1)归一化路径与非归一化输出一致、checkpoint config 值域非法抛 ValueError
|
||||
- ✅ `export_onnx.py`(新增 1 用例):端到端导出并校验产物非空;因当前 venv 缺 `onnxscript`(torch 2.13 的 `torch.onnx.export` 走 dynamo 路径的硬依赖),用 `skipUnless` 环境检测跳过——安装 onnxscript 后自动生效
|
||||
- 另补 `validate_config_values`(2 用例)与 DataRecorder 校验/目录原子分配(2 用例)
|
||||
|
||||
> 注:当前环境 `torch.onnx.export` 实测报 `ModuleNotFoundError: No module named 'onnxscript'`,即 F-8 之外的独立环境问题——ONNX 导出功能在该 venv 不可用,如需导出请 `pip install onnxscript onnxruntime`。
|
||||
|
||||
---
|
||||
|
||||
## 5. 结论与修复优先级
|
||||
|
||||
actpred 无网络暴露面,无 P0/P1 级安全漏洞;`weights_only=True` 与 `np.load` 默认行为已覆盖两个主要反序列化风险点。核心问题是**功能正确性**:
|
||||
|
||||
1. **已修复**(P2): ✅ F-1 微调加载、✅ F-2 预训练 val 泄漏、✅ F-3 mobilenet 推理离线不可用
|
||||
2. **已修复**(P3): ✅ F-4 解析器静默容错、✅ F-5 首行 @Servo 填充、✅ F-6 assert 校验、✅ F-7 DataRecorder 校验、✅ F-8 config 值域校验、✅ F-9 依赖一致性、✅ F-10 seed 传递
|
||||
3. **全部 10 项问题已修复,无遗留项**
|
||||
Reference in new issue
Block a user