数据平台 · 采集与标注任务
5.4 采集任务
5.4.1 功能概述
采集任务管理是具身数据平台的数据源管理模块,提供完整的数据采集任务生命周期管理功能。通过创建和管理数据采集任务,分配采集员和设备,跟踪执行状态,确保采集完成的数据自动汇聚到平台,为后续的标注和分析工作提供高质量的数据基础。
5.4.2 适用角色
| 角色 | 职责 |
|---|---|
| 管理员 | 作为平台管理员,您可以制定采集计划,分配人员和设备,跟踪完成情况,监控整体采集工作状态。这些功能确保平台的采集服务高效运行 |
| 项目经理 | 项目经理可以管理项目相关的采集任务,制定采集策略,监控采集进度,确保采集质量。通过采集任务管理,项目经理能够有效控制项目的数据采集工作。 |
| 采集员 | 采集员可以接收任务并按计划进行采集和上传,查看任务详情和要求,报告采集进度和问题。这些功能支持采集员高效完成采集工作。 |
| 审核员 | 审核员可以对采集结果进行抽查或审核,评估采集质量,提供改进建议,确保采集的数据符合要求。这个角色在保证采集质量方面发挥着重要作用。 |
5.4.3 主要功能
5.4.3.1 任务创建与规划
采集计划制定
支持制定详细的采集计划,包括采集目标、时间安排、地点规划、设备配置等。通过科学的计划制定,确保采集工作有序进行,提高采集效率。
任务模板管理
提供采集任务模板功能,可以创建和保存常用的采集任务模板,包括标准化的采集流程、检查清单、质量要求等。通过模板,快速创建新任务,提高工作效率。
资源分配
支持为采集任务分配采集员和设备,可以根据任务需求和个人技能进行智能匹配。通过合理的资源分配,确保任务能够按时高质量完成。
5.4.3.2 设备管理
设备注册
支持注册和管理各种采集设备,包括机器人、传感器、相机等。设备注册后可以分配给具体的采集任务,实现设备资源的统一管理。
设备状态监控
实时监控设备的工作状态,包括设备位置、电量、存储空间、网络连接等。通过状态监控,及时发现设备问题,确保采集工作顺利进行。
设备维护
提供设备维护管理功能,包括维护计划、故障记录、维修历史等。通过完善的维护管理,确保设备始终处于良好状态。
5.4.3.3 任务执行管理
任务分配
支持将采集任务分配给指定的采集员,可以通过系统通知、邮件等方式提醒采集员接收任务。任务分配过程支持优先级设置和截止时间管理。
进度跟踪
实时跟踪采集任务的执行进度,包括已完成数量、剩余数量、预计完成时间等。通过进度跟踪,及时发现任务执行中的问题,采取相应措施。
质量控制
建立采集质量控制体系,包括采集标准制定、质量检查、问题反馈等。通过质量控制,确保采集数据的质量和一致性。
5.4.3.4 数据汇聚
自动上传
采集完成的数据可以自动上传到平台,支持多种上传方式,包括实时上传、批量上传、定时上传等。自动上传功能大大减少了人工操作,提高了数据汇聚效率。
数据验证
自动验证上传的采集数据,包括格式检查、完整性验证、质量评估等。通过数据验证,确保采集数据的可用性和准确性。
数据分类
支持对采集的数据进行自动分类和标签,包括按项目、类型、时间、地点等维度进行分类。通过数据分类,便于后续的数据管理和使用。
5.5 标注任务
5.5.1 功能概述
集中管理所有标注任务,支持按状态分组(待开始、工作中、待检查、检查合格、提交数据),并提供筛选与批量操作。创建任务需在“数据”页面先勾选数据,再点击底部“标注”进行指派。
5.5.2 适用角色和场景
| 角色 | 职责 |
|---|---|
| 管理员 | 作为平台管理员,您可以查看所有任务的整体状况,管理标注员和审核员资源,监控整体标注质量,并配置任务流程和规则。这些功能确保平台的任务管理服务稳定高效。 |
| 项目经理 | 项目经理可以为项目创建标注任务,跟踪项目标注进度,监控标注质量状况,并协调标注员和审核员工作。通过任务管理模块,项目经理能够有效掌控项目的标注工作。 |
| 标注员 | 标注员可以接收分配给自己的任务,执行具体的标注工作,更新任务完成进度,并反馈标注过程中的问题。这些功能支持标注员高效完成标注任务。 |
| 审核员 | 审核员可以审核标注员完成的任务,评估标注质量,向标注员反馈问题,并制定和更新标注标准。这个角色在保证标注质量方面发挥着重要作用。 |
5.5.3 主要功能
5.5.3.1 任务状态管理
状态分组
系统将任务分为五个主要状态:待开始(已创建但尚未开始的任务)、工作中(正在进行标注的任务)、待检查(已完成标注等待审核的任务)、检查合格(通过审核的标注任务)、提交数据(已提交用于训练的数据)。这种状态分组让您能够清晰地了解每个任务的当前状态。
状态流转
任务在生命周期中会经历以下状态流转:任务创建后进入待开始状态,开始标注后变为工作中,完成标注后进入待检查,审核通过后变为检查合格,审核不通过则回到工作中重新标注,最终数据提交后变为提交数据。这个流程确保了标注工作的有序进行。
5.5.3.2 任务创建与分配
任务创建
创建任务时,您需要在数据页面选择要标注的数据,设置任务名称、描述、优先级,指定标注员和审核员,选择任务所属项目,并设置任务完成时间。这些配置确保任务能够按照预期执行。
批量操作
系统支持丰富的批量操作功能,大大提高任务管理效率:
批量选择:
- 支持在任务列表中多选任务
- 可以按状态、项目等条件筛选后进行批量操作
- 选择后会显示底部操作栏
批量删除:
- 可以批量删除选中的任务
- 删除前会显示确认对话框,显示将删除的任务数量
- 删除操作会同时清理相关的任务关联数据
- 支持取消操作
批量分配(开发中):
- 支持批量将任务重新分配给标注员
- 支持批量修改任务属性
批量删除操作不可恢复,请谨慎操作。删除任务不会删除关联的数据集,只会解除任务与数据集的关联关系。
5.5.3.3 任务详情页
平台为每个标注任务提供了详细的详情页面,方便查看和管理任务的各个方面:
页面结构:
- 面包屑导航:快速返回任务列表或项目页面
- 标签页切换:多个功能标签页,组织不同内容
- 侧边栏:显示任务基本信息和操作按钮
- 主内容区:根据标签页显示相应内容
功能标签页:
1.标注数据(dataset):默认标签页
- 显示任务关联的所有数据集列表
- 可以查看每个数据集的基本信息
- 支持数据集与任务的关联管理
- 可以添加或移除数据集 2.批量标注(repeats):批量标注工作区
- 批量标注模式,提高标注效率
- 样本选择器,快速切换数据
- 标注进度条,显示完成情况
- 同步元数据提醒 3.问题标注(invalids):问题标注管理
- 显示所有标记为无效的标注
- 可以查看无效原因
- 支持重新标注或删除无效标注
侧边栏信息:
- 任务基本信息(名称、状态、创建时间等)
- 任务相关人员(标注员、审核员)
- 任务统计(数据集数量、标注数量等)
- 任务操作(编辑、删除等)
5.5.3.4 进度跟踪与监控
实时进度
系统实时显示任务完成百分比、估算剩余完成时间,以及标注效率趋势分析。这些信息帮助您及时了解任务进展情况,做出相应调整。
任务详情页进度
- 在任务详情页可以查看详细的进度信息
- 显示各数据集的标注完成情况
- 显示标注员的工作进度
- 实时更新,页面可见性变化时自动刷新
进度报告
提供个人进度(标注员个人工作进度)、团队进度(团队整体工作进度)、质量报告(标注质量分析报告)等多种报告,满足不同层次的管理需求。
5.5.3.5 质量控制体系
审核机制
系统提供多种审核机制:基于规则的自动质量检查、审核员人工质量检查、随机抽样质量检查、对所有标注进行全量审核。这些机制确保标注质量符合要求。
质量指标
通过通过率(一次通过审核的比例)、准确率(标注准确性的统计)、一致性(不同标注员间的一致性)、完整性(标注完整性的检查)等指标,全面评估标注质量。
5.5.3.6 团队协作功能
任务分配
支持智能分配(根据标注员能力和工作负载智能分配)、手动分配(管理员手动分配任务)、重新分配(任务重新分配给其他标注员)、任务转移(任务在不同标注员间转移)等多种分配方式,确保任务能够合理分配。
沟通协作
提供任务评论(在任务中添加评论和反馈)、问题报告(标注员报告遇到的问题)、解决方案(审核员提供解决方案)、经验分享(团队成员分享标注经验)等协作功能,促进团队沟通和知识共享。
5.5.3.7 数据导出与集成
标注结果导出
支持导出为LeRobot、HDF5等标准格式,根据需求自定义导出格式,批量导出多个任务的标注结果,以及只导出新增或修改的标注。这些功能满足不同场景的数据导出需求。
训练数据准备
提供格式转换(转换为模型训练所需格式)、质量验证(验证导出数据的质量)、版本管理(管理不同版本的训练数据)等功能,确保导出的数据能够直接用于模型训练。
5.5.3.8 任务队列管理
平台提供了完善的后台任务队列管理系统,用于管理数据导出、处理等后台任务:
队列功能(管理员权限):
队列控制:
- 暂停队列:临时暂停队列处理,停止执行新的任务
- 恢复队列:恢复队列处理,继续执行等待中的任务
- 队列状态:实时显示队列的暂停/运行状态
队列清理:
- 清空等待队列:清空所有等待和延迟中的任务(不影响正在执行、已完成、失败的任务)
- 清理历史任务:清理24小时之前已完成或失败的任务,释放存储空间
- 批量重试:批量重试所有失败的任务(一次最多处理1000条)
队列监控:
- 查看队列中的任务数量(等待、进行中、已完成、失败)
- 查看任务执行日志和错误信息
- 监控队列处理速度和性能
任务队列说明:
- 任务队列主要用于后台任务处理,如数据导出、格式转换等
- 暂停队列不会影响正在执行的任务,只会阻止新任务开始
- 清理操作会永久删除历史任务记录,请谨慎操作
- 批量重试可以帮助恢复因临时错误失败的任务
5.5.4 工作流程
💡 数据标注的核心目的是让后续训练的模型能够准确理解每一段动作的含义,从而使机器人能够将人类的自然语言指令正确映射为具体的动作。例如,当收到“收拾餐桌”这样的指令时,机器人能够明确对应的操作步骤和涉及的物品,实现智能化的任务执行
平台支持两种标注方式:
从数据页面选择数据后,可走精细标注或批量标注两条路径,最终保存到服务器。
1.精细标注
- 您可以采集10分钟甚至更长时间的数据,对这个数据中的每个动作时间段都进行标注。
- 支持分组,嵌套,重叠标注,既可以标注做了什么动作,也可以标注做了什么事情。 2.批量标注
- 您可以采集100条相同动作的数据,并一次性给这些数据都标注相同的自然语言。
- 支持按时间段自动适应不同时长的任务,例如10%-30%的时间段做什么的标注。
5.5.4.1 数据查看
进入数据页面并点击相应的文件名链接,即可开始数据查看和标注。数据页面展示了所有可用的数据集,您可以通过搜索和筛选功能快速找到需要的数据。
面板
面板(Panel)是数据的渲染单位,相当于一个相机或传感器的视角(Topic)。
每条数据通常包含多个相机视角,即由多个面板组成。您可以灵活调整面板的大小、位置和数量,以最佳形式浏览数据。面板的灵活布局使您能够同时查看不同角度的数据,显著提高标注效率。
更换渲染面板
您可以轻松更换任何面板的显示内容:
1.点击面板右上角的设置按钮
2.从下拉菜单中选择需要的面板类型
这使您能够根据当前任务需求快速切换不同的数据视图。
更改订阅消息
您还可以更改面板显示的数据来源:
1.点击面板左上角的设置按钮 2.在弹出的设置菜单中选择要切换的Topic消息源
这使您能够查看不同的数据流,满足各种标注场景的需求。
5.5.4.2 精细标注
本章节的标注方法适用于包含多个原子动作的分段标注,特别适合一条数据包含多个任务的场景。精细标注允许您在单个数据流中标记多个不同的动作或事件。
开始标注
点击"开始"按钮(或按快捷键 Q)来标记动作或事件的开始时间点。系统会记录当前时间戳作为标注的起始点。
您可以:
- 自动播放(按空格键)
- 手动前后跳转(按左右方向键)
- 控制跳转速度(同时按下 CTRL 加速或 ALT 减速)
这些灵活的播放控制使您能够精确定位到需要标注的时间点。
结束标注
当动作或事件结束时,点击"结束"按钮(或按快捷键 R)来结束当前标注。系统会记录当前时间戳作为标注的结束点,从而确定完整的时间范围。
添加语义信息
标记完时间段后,需要为该标注添加语义信息:
1.填写表单信息 2.选择对应的自然语言描述或添加新的字典项 3.保存信息
详细的语义描述有助于后续的数据训练和分析。
添加标注
完成上述步骤后,点击"添加标注"按钮(或按回车键)将此次标注添加到当前数据的标注列表中。如需标注多个动作,可重复上述步骤。
保存标注
完成所有标注后,点击右上角的黄色上传按钮,将标注保存到服务器。请确保在离开页面前保存您的工作,以防数据丢失。
5.5.4.3 批量标注
此功能允许您将一条数据的标注结果应用到多条同质化相似数据上,显著节省标注时间。
对于单一任务场景(如100条数据均为同一动作),批量标注功能可大幅提高效率。
批量标注流程
1.选择样例数据:从数据列表中批量选择同质化数据
2.创建标注任务:为这些数据创建新的标注任务
3.开始标注:查看并开始执行标注任务
4.完成样例标注:按照精细标注的流程完成一条样例的标注
5.保存样例:保存完成的样例标注
6.选择模板:回到任务页面,选择已标注的样例数据作为模板
7.批量复制:开始批量复制标注到其他数据
8.确认成功:确认复制操作已成功完成
9.查看结果:查看批量标注的最终结果
通过批量标注功能,您可以将标准化的标注快速应用到大量数据上,特别适合处理大规模的同质化数据集,极大提升工作效率。