3 个月前

图像段落描述中的多样性训练

图像段落描述中的多样性训练

摘要

图像段落描述模型旨在生成对源图像的详细文字描述。这类模型采用与标准图像描述模型相似的技术,但在文本生成方面仍面临诸多挑战,尤其是生成的句子之间缺乏多样性,从而限制了其实际效果。本文探讨了针对该任务采用序列级训练方法的可行性。研究发现,标准的自批判训练(self-critical training)效果不佳,但若结合三元组重复惩罚机制,则能显著提升生成段落的多样性。这种简洁的训练策略在Visual Genome段落描述数据集上,将最佳CIDEr得分从16.9提升至30.6,同时在METEOR和BLEU等指标上也取得显著提升,且无需对模型架构进行任何修改。

基准测试

基准方法指标
image-paragraph-captioning-on-image-paragraphSCST training, w/ rep. penalty
BLEU-4: 10.58
CIDEr: 30.63
METEOR: 17.86

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
图像段落描述中的多样性训练 | 论文 | HyperAI超神经