4 个月前

战术回溯:通过回溯进行自我修正的视觉-语言导航

战术回溯:通过回溯进行自我修正的视觉-语言导航

摘要

我们介绍了 Frontier Aware Search with backTracking (FAST) 导航器,这是一个用于动作解码的通用框架,在 Anderson 等人(2018)提出的 Room-to-Room (R2R) 视觉-语言导航挑战中取得了最先进的结果。给定一条自然语言指令和一个之前未见过环境的照片级真实图像视图,代理的任务是在尽可能短的时间内从源位置导航到目标位置。尽管当前所有方法都是通过局部动作决策或使用束搜索对整个轨迹进行评分,但我们的方法在探索未知环境时平衡了局部和全局信号。重要的是,这使我们能够在贪婪行动的同时,必要时利用全局信号进行回溯。将 FAST 框架应用于现有的最先进模型后,实现了相对 17% 的提升,以及路径长度加权成功率 (SPL) 绝对 6% 的提升。

代码仓库

Kelym/FAST
官方
pytorch

基准测试

基准方法指标
vision-and-language-navigation-on-vlnTactical Rewind - short
error: 5.14
length: 22.08
oracle success: 0.64
spl: 0.41
success: 0.54
vision-and-language-navigation-on-vlnTactical Rewind - long
error: 4.29
length: 196.53
oracle success: 0.9
spl: 0.03
success: 0.61
vision-language-navigation-on-room2roomTactical Rewind - short
spl: 0.41

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
战术回溯:通过回溯进行自我修正的视觉-语言导航 | 论文 | HyperAI超神经