docs(actpred): 更新 Hailo 部署文档与报告,清理过时引用

- README: 部署工作流更新(224×224、pred-token-out、抖动校准、
  连通性检查),首版 HEF 输入不敏感警告改为修复清单,ONNX 测速
  数字更新为 224 实测
- hailo 调研报告:驱动 5.3.0、vstream 乱序踩坑、编译断连排查与
  修复表、重编译待办
- 测速报告:新增 §6 Pi 5 224×224 复测
- 清理已删除报告的 4 处失效引用(审计报告/迁移文档/项目画像)
This commit is contained in:
qing committed 2026-08-13 12:22:41 +08:00
1 parent 14964b9574
commit a6e1781185
7 files changed
+123 -44

No files matched your search

@@ -80,6 +80,25 @@
3. 建议在 Pi 5 + HAT 2 环境补测 1920×1080(ONNX CPU / HEF NPU),
并据此确定量产部署分辨率。
## 6. 224×224 复测(2026-08-13,Pi 5,当前 NPU 部署分辨率)
NPU 部署轮次以 224×224 的 `pretrain_best_inference.pt` 为准(HEF 编译
目标分辨率),据此补测 Pi 5 CPU 基线(3 帧 + 全零历史;episode 原始
图像即 224×224,无重采样开销):
| 方案 | 输入分辨率 | 延迟 | 备注 |
|---|---|---|---|
| PyTorch CPU | 224×224 | 21.0 ms | 含预处理,预热 3 次取 20 次均值 |
| ONNX Runtime CPU | 224×224 | 11.4 ms | 含预处理,预热 3 次取 50 次均值 |
| ONNX Runtime CPU | 224×224 | 10.7 ms | 纯 `session.run`(预缩放输入) |
| Hailo-10 NPU(actpred HEF,首版) | 64×64 | 6.3 ms | 含预处理 + 量化/反量化,驱动 5.3.0 |
注:本组 ONNX 纯推理(10.7ms)与 §2 的 5.9ms(同为 224 模型)存在
差异,未追根(torch≥2.12 dynamo 导出路径、系统负载、ORT 线程调度均
可能影响),以本组实测为准;ONNX 仍比 PyTorch 快约 2 倍。NPU 首版
HEF 因编译侧输入断开输出恒定,仅作封装性能基线,数值有效性待重编译
后复验(见 hailo 调研报告)。
## 参考
- [张高兴的 Raspberry Pi AI 开发指南:将自定义模型编译为 Hailo NPU 的 .hef 模型](https://www.cnblogs.com/zhanggaoxing/articles/18597244.html)