HyperAIHyperAI

Command Palette

Search for a command to run...

基于条件自编码器的高效密集检索降维方法

Zhenghao Liu Han Zhang Chenyan Xiong Zhiyuan Liu Yu Gu Xiaohua Li

摘要

稠密检索模型通过预训练语言模型对查询和文档进行编码,并将其映射到嵌入空间中。这些嵌入向量需要保持高维以充分捕捉训练信号,从而保障稠密检索模型的检索性能。然而,高维嵌入会导致索引存储开销增大以及检索延迟升高。为降低稠密检索中嵌入向量的维度,本文提出一种条件自编码器(Conditional Autoencoder, ConAE),用于将高维嵌入压缩至更低维度,同时保持原始嵌入分布的一致性,并更有效地恢复排序特征。实验结果表明,ConAE在实现与教师模型相当的排序性能的同时,显著提升了检索系统的效率。进一步分析显示,仅通过一个线性层,ConAE即可有效缓解稠密检索嵌入中的冗余问题。本工作的全部代码已开源,地址为:https://github.com/NEUIR/ConAE


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供