3 个月前

基于高斯过程的概率深度序数回归

基于高斯过程的概率深度序数回归

摘要

凭借对复杂数据的强大表示能力,基于深度神经网络(DNNs)的方法已成为有序回归问题(ordinal regression)的最先进方法,该问题旨在将实例分类至有序类别中。然而,DNNs 无法捕捉不确定性,也难以提供概率性解释。相比之下,作为概率模型的高斯过程(Gaussian Processes, GPs)能够提供不确定性信息,但其在大规模数据集上存在可扩展性不足的问题。本文通过引入共轭与非共轭的有序似然函数,将传统高斯过程回归方法拓展至有序回归任务。在此基础上,提出一种在顶层集成高斯过程层的深度神经网络架构,采用随机梯度下降法对神经网络参数与高斯过程参数进行端到端联合训练。其中,有序似然函数中的参数作为神经网络参数进行学习,使得所提出的框架能够为训练集拟合出相应的似然函数,并对测试样本实现概率化预测。在三个真实世界基准数据集——图像美学评分、历史图像分级以及年龄分组估计——上的实验结果表明,该方法在平均绝对误差(Mean Absolute Error)指标上优于现有最先进的有序回归方法,并能为预测结果提供置信度信息。

基准测试

基准方法指标
age-estimation-on-adience-1GP-DNNOR
Accuracy: 57.4
MAE: 0.54
historical-color-image-dating-on-hciGP-DNNOR
MAE: 0.76
accuracy: 46.60

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于高斯过程的概率深度序数回归 | 论文 | HyperAI超神经