etreeasky的个人博客分享 http://blog.sciencenet.cn/u/etreeasky

博文

关于不完备性定理和不确定性原理的探讨(十四)(2)

已有 1991 次阅读 2018-10-6 17:54 |系统分类:科研笔记

 14.2 隐层伸缩

 


    我们再来看看人类是如何处理复杂系统问题的吧。


    以疾病诊断为例,家里小孩感冒,有时医生会让检测白细胞是否增高,以判断感冒是否病毒因素引起的(因为人体内的防御组织的白细胞,在病毒到来之时会相应增多)。一般情况下,医院只需检测白细胞的个数,而不会多此一举额外费神检测白细胞的内部结构的变化情况。

     以数学眼光看,白细胞内部的子要素信息代表了多个特征属性,包含一定内在结构信息的白细胞是多维度空间。

     大多数情况是,普通感冒检测一下白细胞整体的数目就足够了,即使门诊医生不检测白细胞内部的子细节亦无不妥。也就是说,尽管白细胞结构是一个复杂的多维度系统,但通常的疾病检测并不关心白细胞内在子系统的细枝末节状况。这时,单个白细胞不再被看作多维度系统,而是作为单一元素特征。


    同样地,在日场生活中,我们经常遇到类似情况。

    同一个物体,有时需要了解它很多特征信息,有时只需要把它简单看作一个东西即可。

    比如,一个苹果,如果要精准评判它的价格,需要知道它的味道、颜色、大小、重量、产地等特征属性,如果我们把这些多种特征组合在一起,可以构建一个“售价参考系”。

    同一个苹果,在农业部门水果产量的统计表中,味道、颜色、大小、重量、产地等往往无需详细记载,在“产量参考系”中它体现的只是一个普通水果而已。

    显然,售价参考系可以看作产量参考系‘张量’特征而成的,而产量参考系可以视作售价参考系的‘缩并’特征

    在人类通用语言中,同一个事物,在不同层次参照系中,逻辑概念往往具有不同层次,其逻辑属性是可以因地制宜的伸缩的这意味着通用人工智能模型的特征属性维度必须根据逻辑范围而伸展或者缩并。换句话说,只有当深度学习的隐层是可变层数的、是可以动态伸缩的,这样才有可能匹配逻辑属性的伸缩性,才有可能成为通用人工智能模型。


    特征属性的扩充和伸缩,在群论中体现为“同态核”

    伸缩的同态,只可能将一个群投影“变小”(即像的阶数变小)。这样的同态只能将一个群投影为一个小群(满射而非单射)或者投影为另一个更大群的一部分(单射而非满射)。显然“不对称”的情况下同态会将多个元素映为一个点,例如映为像中的幺元。这些被映到幺元的元素组成一个子群,称为同态的核(Ker)。同态的核显然是一个正规子群,这是由像中幺元的交换性质反推得出的。对于同态ff,一个群“除以”同态核Kerf就等于像Imf 。










      类似的,有时为了简化高维空间复杂运算,经常要通过核函数(Kernel Function)降维处理。与线性空间“降维”打击效果差不多,张量空间有种“降阶”方法,其实就是我们熟悉的散度算子。

    

     目前的深度学习模型对于范围有限的封闭系统效果突出,但是一旦扩展到更大的空间,固化隐层的深度学习模型则显得很弱智,究其根本,关键是缺少了封闭子系统与开放母系统之间的流通量信息。我们知道,散度是用来度量一个子系统与母系统间的信息流通量的。如果在深度学习模型加入散度算子,能不能解决开放系统的演算呢?

    散度运算还有一个不常被提及的功能。由于它的定义是内积,这意味着散度算子本身就是特征维度的‘缩并’运算。



    另一方面,当前深度学习的核心,梯度算子,不仅仅意味着最优解演算,实际上它还是一阵特征维度‘张量’运算。通过梯度算子,可以实现特征属性的张量扩充。

112216ghv6ihdzoiridoir.jpg


    换句话说,如果一个深度学习演算模型同时具备了梯度算子和散度算子,那么这个深度学习模型的隐层应该可以实现特征属性伸缩的功能,变成可以伸缩的隐层,而不像现在这样只局限为固定层数的隐层。

    实现可以伸缩的隐层,是通往通用深度学习人工智能的必经之路。

 220798781.jpg





https://wap.sciencenet.cn/blog-1666470-1139228.html

上一篇:关于不完备性定理和不确定性原理的探讨(十四)(1)
下一篇:关于不完备性定理和不确定性原理的探讨(十四)(3)
收藏 IP: 59.63.206.*| 热度|

1 王安良

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-3-29 02:21

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部