
摘要
情景控制(Episodic control)在强化学习中提供了一种高度样本高效的训练方法,但同时对记忆和计算资源提出了较高要求。本文提出了一种简化的启发式策略,以降低这些资源需求,并将其应用于无模型情景控制(Model-Free Episodic Control, MFEC)框架。在Atari游戏上的实验表明,该启发式策略在采用保守的超参数设置时,能够有效降低MFEC的计算负担,同时几乎不造成性能损失。因此,当处理强化学习任务时,情景控制方法变得更加切实可行。
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| atari-games-on-atari-2600-frostbite | MFEC | Best Score: 4020 Score: 2394 |
| atari-games-on-atari-2600-hero | MFEC | Best Score: 13190 Score: 11732 |
| atari-games-on-atari-2600-ms-pacman | MFEC | Best Score: 11301 Score: 8530.4004 |
| atari-games-on-atari-2600-qbert | MFEC | Best Score: 19750 Score: 14135 |
| atari-games-on-atari-2600-river-raid | MFEC | Best Score: 5080 Score: 3868 |
| atari-games-on-atari-2600-space-invaders | MFEC | Best Score: 2490 Score: 1990 |