Time的个人博客分享 http://blog.sciencenet.cn/u/Time

博文

新的基础算法:树突网:一个用于分类、回归和系统识别的白箱模块

已有 755 次阅读 2020-9-30 10:26 |个人分类:刘刚的个人主页|系统分类:科研笔记| 机器学习, 神经网络, 模式识别, 算法, 分类

摘要—本文提出了一种像支持向量机(SVM)或多层感知器(MLP)一样的基础机器学习算法。DD的主要理论是:如果输出的逻辑表达式包含相应类关于输入之间的逻辑关系(与、或、非),则该算法可以在学习后识别该类。实验和结果:(1)作为首个白盒机器学习算法的DD,对黑箱系统展示出了出色的系统识别性能。(2)对于回归问题,通过九个实际应用证明相对于模仿神经元细胞体(Cell body Net)的MLP架构,DD具有更好的泛化能力。(3)对于分类问题,通过MINIST和FASHION-MINIST数据集验证了在更大的训练损失下DD的测试样本分类精度高于Cell Body Net。模块的数量可以有效地调整DD的逻辑表达能力,从而避免过度拟合,易于获得具有出色泛化能力的模型。(4)在MATLAB和PyTorch(Python)中进行的重复实验表明,在epoch和正向传播上,DD都比Cell body Net快。我们强调DD的白盒属性、基于可控制的精度提供的更好的泛化能力、更低的计算复杂度。 DD不仅可以用于一般工程领域,DD作为深度学习的模块具有巨大的发展潜力。代码开源:https://github.com/liugang1234567/Gang-neuron.


原文

image.png

大纲

image.png



https://wap.sciencenet.cn/blog-3433003-1252698.html

上一篇:极限算法?会改变计算机底层基本函数计算速度吗? 秒了霍纳法则??
下一篇:(详细视频讲解)新的基础算法:树突网络(Dendrite Net):一个用于分类、回归和系统识别的白箱模块

0

该博文允许注册用户评论 请点击登录 评论 (2 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2021-5-10 10:22

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部