
摘要
组合零样本学习(Compositional Zero-Shot Learning, CZSL)旨在训练模型识别基于已学习概念(如属性-物体组合)的新型组合概念。其中一项主要挑战在于建模属性与不同物体之间的交互关系,例如“湿的苹果”与“湿的猫”中的“湿”这一属性所表达的语义存在差异。为此,本文进行了深入分析并提出观点:属性应依赖于所识别的物体及输入图像。为此,我们提出一种新的属性学习框架,包含属性超网络(attribute hyper learner)和属性基础学习器(attribute base learner),用于学习条件化属性嵌入。通过编码条件化属性,我们的模型能够生成灵活的属性嵌入,从而实现从已见组合到未见组合的泛化能力。在CZSL基准数据集上的实验,包括更具挑战性的C-GQA数据集,结果表明,本方法在性能上优于其他先进方法,充分验证了学习条件化属性的重要性。代码已开源,地址为:https://github.com/wqshmzh/CANet-CZSL。
代码仓库
wqshmzh/canet-czsl
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| compositional-zero-shot-learning-on-mit-2 | CANet | AUC: 5.4 Attribute accuracy: 30.2 Object accuracy: 32.6 Seen accuracy: 29 Unseen accuracy: 26.2 best HM: 17.9 |
| compositional-zero-shot-learning-on-ut | CANet | AUC: 33.1 Attribute accuracy: 48.4 Object accuracy: 72.6 Seen accuracy: 61 Unseen accuracy: 66.3 best HM: 47.3 |