
摘要
本文提出了一种新颖的神经网络架构,其中权重矩阵通过低维向量进行重参数化,并通过核函数相互作用。我们网络中的每一层可被理解为在输入与输出之间引入了一个(可能无限宽的)线性层。本文阐述了该模型的理论基础,并通过具体实例进行验证,探讨了其在多种应用场景中为神经网络施加结构的能力,涵盖数据可视化到推荐系统等多个领域。在协同过滤任务(MovieLens数据集)中,该方法取得了当前最优的性能表现。
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| collaborative-filtering-on-movielens-10m | Sparse FC | RMSE: 0.769 |
| collaborative-filtering-on-movielens-1m | Sparse FC | RMSE: 0.824 |