3 个月前

STEC:基于透视Transformer的CTR预测编码器

STEC:基于透视Transformer的CTR预测编码器

摘要

点击率(Click-Through Rate, CTR)预测在在线广告与推荐系统中占据核心地位,其预测性能直接影响用户的整体满意度以及企业的收益。尽管如此,CTR预测仍是当前研究的活跃领域,原因在于其需要基于稀疏且高维的特征,精准建模用户偏好,而多个特征之间的高阶交互关系往往会导致不同的预测结果。现有的大多数CTR预测模型均依赖单一的特征融合与交互学习策略。少数采用多种交互建模方式的模型,通常将每种交互视为相互独立的模块。本文提出一种新型模型——STEC,该模型在统一的架构中整合多种交互学习方法的优势。此外,STEC引入了来自不同阶次交互的残差连接机制,使得低阶交互信息能够直接作用于最终预测结果,从而显著提升模型性能。在四个真实世界数据集上的大量实验表明,得益于更强的表达能力,STEC在CTR预测任务上优于现有的最先进方法。

基准测试

基准方法指标
click-through-rate-prediction-on-criteoSTEC
AUC: 0.8143
Log Loss: 0.4379
click-through-rate-prediction-on-movielens-1mSTEC
AUC: 0.9712
Log Loss: 0.2016

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
STEC:基于透视Transformer的CTR预测编码器 | 论文 | HyperAI超神经