4 个月前

位置优化器:一种受自然启发的优化算法

位置优化器:一种受自然启发的优化算法

摘要

人类神经系统利用突触可塑性来解决优化问题。以往的研究尝试在人工神经网络的训练过程中引入可塑性因素,但大多数这些模型需要对网络进行复杂的外部控制或采用复杂的新型规则。本文介绍了一种新颖的受自然启发的优化算法,该算法模仿了生物神经可塑性。此外,该模型在三个数据集上进行了测试,并将其结果与梯度下降优化方法进行了比较。

基准测试

基准方法指标
nature-inspired-optimization-algorithm-onGradient descent optimizer
training time (s): 282
nature-inspired-optimization-algorithm-onPosition-wise optimizer
training time (s): 227
nature-inspired-optimization-algorithm-on-1Position-wise optimizer
training time (s): 23
nature-inspired-optimization-algorithm-on-1Gradient descent optimizer
training time (s): 50

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
位置优化器:一种受自然启发的优化算法 | 论文 | HyperAI超神经