3 个月前

参数化矩阵模型

参数化矩阵模型

摘要

我们提出一类通用的机器学习算法,称为参数化矩阵模型(parametric matrix models)。与大多数模仿神经元生物机制的现有机器学习模型不同,参数化矩阵模型采用矩阵方程来模拟物理系统。类似于物理学问题的常规求解方式,参数化矩阵模型通过学习驱动系统产生期望输出的控制方程来实现预测。这类模型能够从实测数据中高效训练,其方程可包含代数关系、微分关系或积分关系。尽管最初设计用于科学计算领域,我们进一步证明了参数化矩阵模型具有通用函数逼近能力,可广泛应用于各类机器学习任务。在阐述其理论基础之后,我们将该模型应用于一系列不同类型的问题,验证了其在多种场景下的优异性能。在所有测试任务中,参数化矩阵模型均在高效且可解释的计算框架下,实现了高精度的预测结果,并支持输入特征的外推。

基准测试

基准方法指标
image-classification-on-emnist-balancedConvolutional PMM (Parametric Matrix Model)
Accuracy: 85.95
Trainable Parameters: 349172
image-classification-on-emnist-balancedPMM (Parametric Matrix Model)
Accuracy: 81.57
Trainable Parameters: 13792
image-classification-on-fashion-mnistPMM (Parametric Matrix Model)
Accuracy: 88.58
Percentage error: 11.42
Trainable Parameters: 16744
image-classification-on-fashion-mnistConvolutional PMM (Parametric Matrix Model)
Accuracy: 90.89
Percentage error: 9.11
Trainable Parameters: 278280
image-classification-on-mnistPMM (Parametric Matrix Model)
Accuracy: 97.38
Percentage error: 2.62
Trainable Parameters: 4990
image-classification-on-mnistConvolutional PMM (Parametric Matrix Model)
Accuracy: 98.99
Percentage error: 1.01
Trainable Parameters: 129416

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
参数化矩阵模型 | 论文 | HyperAI超神经