钟定胜的个人博客分享 http://blog.sciencenet.cn/u/holyskyz 哲思天地_人定圣天不胜天:人心要和睦安定,以天理为圣,敬畏天理,尊重良知。

博文

关于神经网络应用的一些新设想

已有 2880 次阅读 2016-9-18 11:15 |个人分类:对阿尔法狗及人工智能的评论|系统分类:科研笔记

在前期的博文中,曾述及笔者的这样一个观点:最有效的神经网络一定是该网络的网络结构和传递函数与所分析事物的内在机理函数关系最接近的网络。延续这一思想,笔者提出以下新想法/猜想:

1.       猜想——判断神经网络优劣的标准:a.网络结构最简单、b.训练时收敛最快,迭代次数最少、c.训练误差最小。满足以上三个条件的神经网络应该是最符合分析事物内在机理的网络,是最好的网络(这一标准与这样一个哲学思想有共通性:世界的本质是简单的)。要初步检验这一猜想,可以设计这样一个实验来进行:先构建一套显性的数学方程,比如最简单的X+Y=Z,或是更复杂一些的方程甚至方程组。用该方程/方程组计算出几百组数据做为训练数据,这些数据的涵盖范围要尽量大一些(至少在数学空间上要能涵盖下一步的预测数据),同时计算出几十组数据做为预测数据备用。接下来我们可以用两种方法进行神经网络的构建:一种是用所谓的经验公式的方法,搭建神经网络;另一种是直接搭建与上述方程/方程组函数关系相同的神经网络。显然,用上述三个评价标准来衡量的话,前者均会劣于后者。类似的,我们可以尝试选择介于这两种方式之间的神经网络(因为在实际科研中,我们不可能能够得到关于被分析事物的精确的显性函数关系,或者说,如果有这样的精确的显性函数关系已经被找到的话,就不会去用神经网络这样一个黑箱/灰箱的方法去研究它了),若这个方法搭建的神经网络的优劣性介于上述二者之间的话,则进一步说明上述三个评价标准是初步有效的。当然,仅这个实验用来检验这三个评价标准的说服力仍然不够强,需要设计更多的实验来进行更为充分的检验。

2.       如果上述猜想被认为基本正确的话,我们可以延续这一猜想做以下两个研究:

            应用上述评价标准,编制优化软件,寻找最优网络结构。该优化软件主要包括以下内容:可以自动调整网络结构和函数关系,包括神经网络的类型、网络的层数、甚至包括在同一层中允许用不同类型的传递函数、包括上下层节点之间并不一一互相连接允许有部分下层节点不与某些上层节点发生联系、等等。

            应用该优化软件,做以下研究:通过优化软件寻找到最优网络以后,从该最优网络的网络结构来反推所研究事物的机理函数关系,为建立有关理论提供技术支持。当然,在这个过程中,机理分析与神经网络优化之间的关系应该是互反馈的。此外,在这个分析的过程中,有一个分析方法应该可以提供有价值的信息和指导:对所研究事物建立一个类似系统动力学的概念数学模型进行机理分析,应用系统动力学的思想进行上述研究,反推研究事物的机理函数关系,应该可以有效提高整个研究的效率。

3.       上述方法和思路如果有效的话,不仅是对神经网络功能应用的扩展,更可能为我们建立所研究学科的新理论、新方法提供有益的帮助。

 

欢迎转载,只需注明文章作者钟定胜。
文责自负,与本人的工作单位无关,与文字发布的网络平台无关。
**********微信公众号holysky-zhong***********
*****微博地址http://weibo.com/holyskyzds****
*****QQ空间http://user.qzone.qq.com/253758/******



https://wap.sciencenet.cn/blog-3234816-1003531.html

上一篇:“有限的观察只能得到有限的推理”
下一篇:真理也需要经过反复确认和强化才能被真正接纳
收藏 IP: 223.68.77.*| 热度|

0

发表评论 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-5-21 18:37

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部