LeRobot 数据集样例
本节展示经 KM Data Converter 导出并转换为 LeRobot v2.1 后的真实采集数据,便于对照目录结构与训练时的观测字段。
样例来自一次双臂桌面操作采集(50 条 episode,25 FPS,分辨率 960×540)。下方视频为 file-016 片段(约 22 秒),任务描述为:
Pick up the blue cube and place it on the yellow cube.
四路相机布局
原始 cameras.mp4 为 2×2 拼接画面,拆分后对应 LeRobot 中的四个 observation.images.* 字段:
left_eye right_eye ← 头部立体/主视角
left_wrist right_wrist ← 腕部相机
| 字段名 | 视角 | OpenPI 训练映射(典型) |
|---|---|---|
observation.images.left_eye | 左眼 / 主相机 | observation/image |
observation.images.right_eye | 右眼 | 可与主相机择一或融合 |
observation.images.left_wrist | 左腕 | observation/wrist_image(左臂) |
observation.images.right_wrist | 右腕 | 腕部第二路(右臂) |
右眼(right_eye)
头部右侧相机,用于观察工作区全貌与双臂相对位置。
对应磁盘路径(v3.0 分块布局,导出后):
videos/observation.images.right_eye/chunk-000/file-016.mp4
转换为 v2.1 后,同一段落通常位 于:
videos/chunk-000/observation.images.right_eye/episode_000016.mp4
右腕(right_wrist)
安装在右臂末端的腕部相机,贴近夹爪,便于观察抓取与放置细节。
对应磁盘路径(v3.0 分块布局,导出后):
videos/observation.images.right_wrist/chunk-000/file-016.mp4
转换为 v2.1 后,同一段落通常位于:
videos/chunk-000/observation.images.right_wrist/episode_000016.mp4
数据集目录结构(节选)
lerobot_datasets-70-01-01-08-03-13/
meta/
info.json # codebase_version、fps、features 等
episodes.jsonl # 每条 episode 的任务与帧数
tasks.jsonl
data/
chunk-000/
episode_000001.parquet # 关节状态、action 等逐帧数据
videos/
observation.images.right_eye/chunk-000/file-016.mp4 # v3.0
observation.images.right_wrist/chunk-000/file-016.mp4
# v2.1 示例:
# chunk-000/observation.images.right_eye/episode_000016.mp4
meta/info.json 中与本节视频相关的特征定义示例:
| 特征 | 类型 | 形状 / 说明 |
|---|---|---|
observation.images.right_eye | video | 540 × 960 × 3,H.264,25 FPS |
observation.images.right_wrist | video | 540 × 960 × 3,H.264,25 FPS |
observation.state | float32 | 26 维机器人本体状态 |
action | float32 | 56 维动作向量 |
与训练配置的对应关系
OpenPI 策略输入通常只使用主相机 + 单路腕部图像。若你使用双臂四路视频训练,需在 openpi.training.config 中指定正确的 image_keys,并将 LeRobot 字段名映射到 observation/image 与 observation/wrist_image。