wonsure的个人博客分享 http://blog.sciencenet.cn/u/wonsure

博文

人工神经网络本质

已有 9316 次阅读 2015-5-2 18:44 |系统分类:科研笔记| 公式, 可拓学, 人工神经网络, 灰系统, 激活函数

人工神经网络是模拟动物神经网络的功能、特征、结构而建立的一种数学模型,实际就是一个数学表达式。

人工神经网络的节点数、层数、权重、激活函数参数等都是待定或者可调参数,可通过一定的算法学习得到。通常优化的是权重和激活函数参数,优化方法有梯度法(BP算法是一种具体推广展开)、遗传算法等。

人工神经网络可作为万能逼近器,此时其表达式可看做是拟合函数公式,适用于线性和非线性拟合,这种情况形下需要采用有监督学习算法,即需要有由输入和输出组成的训练样本数据。控制系统中用的神经网络控制器实际是(动态或静态)拟合器,其泛化或预测能力较强。

激活函数可以简单也可以复杂,常用的是带有指数项的函数。常规的灰预测公式是带有一个指数项的表达式,所以灰预测精度一般不如神经网络,但比神经网络简单。

如果激活函数采用三角形或者梯形,神经网络聚类性能通常不劣于灰色变权或者定权聚类,但结构和层数需要经验确定,没有灰色聚类简单。这时,神经网络和模糊方法在某方面是相通的。

如果激活函数采用可拓关联函数,则可称为可拓神经网络,与可拓学某些方法有相似之处。

还有将激活函数取为正弦函数和余弦函数的。

激活函数如果取为小波基函数,称为小波神经网络;如果取为径向基(RBF)函数,称为RBF网络,这是大家熟知的。

当然神经网络有多种结构和形式,结构的改变,其称谓和原理可能也会改变。



http://wap.sciencenet.cn/blog-341979-886916.html

上一篇:庸俗者如你我
下一篇:都是卖菜的?

3 蒋大和 dulizhi95 icgwang

该博文允许注册用户评论 请点击登录 评论 (4 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2021-3-5 00:47

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部