
摘要
迁移学习是一种广泛用于构建高性能计算机视觉模型的方法。在本文中,我们通过研究数据选择对性能的影响来探讨迁移学习的有效性。研究发现,更多的预训练数据并不总是有助于提升性能,而迁移学习的表现取决于对预训练数据的明智选择。鉴于数据集规模持续增长的趋势,这些发现具有重要意义。此外,我们提出了一种基于目标数据集计算重要性权重的简单有效的预训练方法——领域自适应迁移学习。我们的计算重要性权重的方法借鉴了领域自适应的思想,并展示了其在迁移学习中的新颖应用。实验结果表明,我们的方法在多个细粒度分类数据集上达到了最先进的水平,并且适用于实际应用。
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| fine-grained-image-classification-on-stanford | DAT | Accuracy: 96.2% |