31 复刻路线图与里程碑
返回 00 - 项目总览与学习路线 | 配套学习:
10 - 知识领域各笔记
总原则
- 里程碑串行推进,模块内并行学习
- 每个里程碑有明确的”完成判据”,达标才进下一个
- 预算有限的降级方案已标注(没有 Quest / 没有机械臂也能走到 M5)
- 与原文”下一步工作”对齐:先遥操作/公开数据基线 → 再 UMI 数据训练
里程碑总览
| 里程碑 | 内容 | 预估 | 完成判据 |
|---|---|---|---|
| M0 准备 | 论文+环境+BOM | 1~2 周 | 论文读完有笔记;软件全装好;BOM 下单 |
| M1 硬件 | 结构件+编码器链路 | 3~6 周 | 100Hz 连续化角度流 + 宽度标定 RMSE 达标 |
| M2 追踪 | Quest app + 网络 | 2~4 周 | 位姿 UDP 流 + 三流时间同步 |
| M3 标定 | 内参→手眼→(进阶三法) | 3~5 周 | T_ctrl_tool 求出 + 误差量化报告 |
| M4 采集 | 后处理 pipeline | 2~4 周 | 一条完整可训练 episode 数据集 |
| M5 训练 | ACT/DP 基线→UMI 数据 | 4~8 周 | 基线复现 + UMI 数据训练曲线 |
| M6 评估 | 精度量化与 rollout | 2~4 周 | 复现误差报告(对拍原文方法) |
M0 准备(1~2 周)
- 精读 UMI 论文 + 13 UMI 范式与相关研究 笔记输出
- 软件:Fusion 360 / Arduino IDE / Unity 6.3 + Meta SDK / Python 环境(OpenCV、numpy、scipy、lerobot)
- BOM 采购清单(见下节)
- 建立实验记录习惯(对应 23 实验方法论 - 误差分析与对照实验)
- 降级:暂无 Quest → 先用手机 ARCore 位姿做原理验证
M1 硬件(3~6 周)
- CAD 建模 5 大件:安装基座 / 钳口+齿条座 / 手部支撑座 / 控制器安装座 / 相机底座(15 机械设计 - CAD 3D打印与结构迭代)
- 打印 v1 → 装配 → 记录打印公差表
- AS5600 + XIAO 固件:100Hz RAW ANGLE + AGC + 软件展开回绕(16 嵌入式 - AS5600 编码器与 XIAO ESP32C6)
- 卡尺标定:角度→宽度,线性拟合 + RMSE;对照原文”编码器线性就够”
- 橡皮筋直线布放(避开原文的拉力角度坑)
- 完成判据:串口流抖动≈0;宽度 RMSE 记录在案
M2 追踪(2~4 周)
- Quest 开发者模式 + Unity 环境(17 位姿追踪 - Unity 与 Meta Quest 开发)
- 自定义 app:控制器位姿 100Hz UDP 推流
- Python 接收 + Open3D 实时可视化(8 字轨迹验证)
- 三流时间同步:互相关时延估计 + 时间戳归并(18 网络传输 - TCP UDP ADB 与时间同步)
- 完成判据:相机/编码器/位姿三流统一采样率对齐表可导出
M3 标定(3~5 周)
- 相机内参:ChArUco + omnidir,姿态充分变化 + 10 组可复现性(19 视觉基础 - 相机模型与内参标定)
- 手眼标定:TSAI,10 轮 × 20 快照 + bootstrap 评估(21 标定系统 - 手眼标定)
- 进阶(强烈建议,毕设精华):重力姿态标定 + Quest-标记标定 + 支点标定,复现”交叉验证决策”(22 标定系统 - 支点标定、重力姿态与Quest-标记标定)
- 可视化校验:CAD 渲染 vs 实物四视角
- 完成判据:T_ctrl_tool + 99 分位误差报告,方法间偏差表
M4 数据采集(2~4 周)
- 录制控制逻辑:夹爪双击触发方案(借鉴 YUBI)或按键/语音
- 状态反馈:LED 指示(录制中/空闲/错误)
- 后处理 pipeline:episode 切分 → 三流对齐 → 位姿链路合成(世界系轨迹 + 宽度)→ 数据质量检查(抖动、丢帧、遮挡标记)
- 采集 20~50 条演示(单一简单任务开始,如抓放方块)
- 完成判据:一条 episode 能被 lerobot 数据格式加载
M5 训练(4~8 周)
- 基线:lerobot + 公开数据集训练 ACT 与 DP 各一次(14 模仿学习 - ACT 与 Diffusion Policy)
- 自有数据训练:UMI 数据 → 动作表示(相对位姿参数化)→ 训练
- 消融:数据量 / chunk 长度 / 相机视角
- 降级:无机械臂部署 → 仿真评估(lerobot 仿真环境)或仅报告验证集指标
- 完成判据:训练曲线 + 评估指标报告
M6 评估与收尾(2~4 周)
- 设备精度量化(对应原文”下一步”):
- 方案 A:动作捕捉系统对比轨迹(如有条件)
- 方案 B:UMI 轨迹 → 机器人 rollout 复现 → 测复现误差
- 知识库回填:所有实测数值写回各笔记”实践记录”
- 总结报告:复刻 vs 原文的差异与心得
BOM 采购清单(初版,随 M0 完善)
| 类别 | 物料 | 数量 | 备注 |
|---|---|---|---|
| 传感 | AS5600 模块 | 2 | I2C 版 |
| 传感 | 径向充磁磁铁(直径 6mm 级,选强磁) | 4 | 原文教训:弱磁只能贴近装 |
| 主控 | Seeed XIAO ESP32C6 | 2 | |
| 追踪 | Meta Quest 3(或 2) | 1 | 降级:手机 ARCore |
| 相机 | 广角 USB 相机(FOV 越大越贴原文) | 1~2 | omnidir 标定需要超广角 |
| 机械 | 直线导轨+滑块 | 1 套 | |
| 机械 | 齿轮齿条副 | 1 套 | 注意模数匹配 |
| 机械 | 微型轴承 | 2~4 | |
| 机械 | 热熔螺纹嵌件 + 螺丝螺母 | 若干 | M2/M3 为主 |
| 机械 | 橡皮筋(多种刚度) | 若干 | 直线布放预紧 |
| 结构 | 3D 打印服务或自购打印机 | - | PETG/PET-CF 更佳 |
| 标定 | ChArUco 棋盘(铝板贴纸级) | 1 | 平整度关键 |
| 标定 | ArUco 贴纸(打印贴合) | 若干 | Quest-标记标定用 |
| 标定 | 卡尺、水平仪、水平台 | 1 套 | 高级标定/重力标定 |
| 工具 | 烙铁、万用表、钻头 | - | 嵌件热熔 |
风险与对策
| 风险 | 对策 |
|---|---|
| Quest 追踪漂移影响长 episode | episode 控制在分钟级;开头结尾做重定位校验 |
| 打印公差超标 | 关键配合位留加工余量;误差进预算表 |
| 无机械臂部署 | 走仿真评估路线;或联系实验室/租用 |
| 齿轮回隙超标 | 选零回隙齿条/加预紧;或换直线电位器方案 |
| 时间不够 | 走”最小可行路径”(见总览):11→19→16→17→21→31,标定进阶部分砍掉 |
与原文”下一步工作”的对齐
原文作者的下一步:① ACT/DP 基线 ② UMI 数据训练 ③ 背包工作站 ④ 控制逻辑与反馈 ⑤ 后处理 pipeline ⑥ 精度量化。 本路线图 M4/M5/M6 与之一一对应——你复刻到 M6,就等于和原作者站在了同一起跑线,后续可以做原文提出的开放问题(握持对照实验、触觉反馈、手腕旋转补偿、IK 解耦控制)。
实践记录
(执行时在这里追加:里程碑开始/完成日期、偏差与原因)