由研究主张反推基准
五份重叠的单智能体调研在此合并。Benchmark 应包含任务分布、观测、动作、奖励、版本、预算与测试协议。更高的固定环境回报,不能单独说明视觉泛化、真实机器人可靠性或更低计算成本。
| 环境族 | 适合检验 | 需要锁定的协议 |
|---|---|---|
| Classic Control / Box2D | 实现调试、轻量控制 | 环境 ID、时间限制、奖励 |
| MuJoCo / DM Control | 连续控制、优化与样本效率 | 模型版本、状态/像素、动作 repeat |
| ALE / Atari | 视觉决策、探索 | Sticky actions、action set、frame skip、评估模式 |
| Procgen / MiniGrid / BabyAI | 程序生成任务与泛化 | 训练 level、测试 level、任务条件 |
| Meta-World / robosuite / RLBench | 操作、接触、多任务 | 任务集、success、controller、演示协议 |
| D4RL / Minari 数据集 | 固定数据下的 offline 学习 | 数据版本、转换语义、score normalization |
| Safety-Gymnasium | 约束与成本 | Cost 定义、预算、违反率 |
| Habitat / CARLA | 导航、驾驶和场景迁移 | 场景划分、传感器、challenge 版本 |
框架名称相同不表示具体任务相同。D4RL 的某个迁移数据版本与原 benchmark 的终止字段、score reference 是否一致,需要逐项核对。
扩展套件与工程选择
DeepMind Lab、Retro、Crafter、MineRL 涉及视觉、探索、长期任务或历史游戏协议;应说明维护版本、任务规则和外部依赖。Isaac Lab、ManiSkill、MuJoCo Playground、Genesis、HumanoidBench 和 MyoSuite 对具身研究各有接口和模型假设,不能把支持 GPU 仿真直接等同于所有任务成本更低。
Unity ML-Agents、PySC2/SC2LE 和 Google Research Football 还可支持多智能体或竞技研究,单智能体 agent 的具体控制范围要列明。硬件需求应通过选定配置测量,不引用无配置上下文的通用吞吐数字。
主张与指标对齐
| 主张 | 推荐同时报告 |
|---|---|
| 样本效率 | 固定 transition 预算性能、同区间 AUC、达到阈值预算 |
| 泛化 | Held-out 任务/场景/level、训练测试差距 |
| 操作能力 | 原始任务成功率、碰撞、恢复、实际任务时间 |
| 稳定性 | 全部 seeds、失败率、区间与训练曲线 |
| 系统效率 | 环境步、梯度更新、wall-clock、硬件与端到端开销 |
| 安全约束 | Reward、cost、违反频率和实际约束定义 |
归一化回报通常写为 ,但参考分数和分母约定是 benchmark 特定的,不应跨套件直接复制。
选型与复现
先用便于调试的任务检验实现,再选择与核心主张一致的主 suite,最后用外部任务检查适用范围。保留环境 package、版本、地图/模型、wrapper、reset/termination、随机种子和训练/测试预算。