科学网

 找回密码
  注册
正交矩阵(坐标变换)与奇异值分解SVD
张伟 2020-9-2 17:06
(1)正交矩阵 预备知识:坐标变换与旋转矩阵 https://blog.csdn.net/datase/article/details/74502958 https://zhu ...
个人分类: 机器学习|2991 次阅读|没有评论
ROC曲线
张伟 2020-8-31 16:13
(一)术语 阳性 (P, positive) 阴性 (N, Negative) 真阳性 (TP, true positive),正确的肯定。又称:命中 (hit) 真阴性 (TN, true negative),正确的否定。又称:正确拒绝 (correct rejection) 伪阳性 (FP, false positive),错误的肯定,又称:假警报 (false alarm),第一型错误 伪阴性 (FN, false ...
个人分类: 机器学习|23355 次阅读|没有评论
[转载]随机游走 Random Walk
张伟 2020-8-28 09:33
1、算法开始前,先简单描述一下随机游走模型 一维随机游走问题:设一个质点(随机游走者)沿着一条直线运动,单位时间内只能运动一个单位长度,且只能停留在该直线上的整数点,假设在时刻 t ,该质点位于直线上的点 i ,那么在时刻 t+1 ,该质点的位置有三种可能: ①以 p 的概率跳到整数点 i-1 ...
个人分类: 机器学习|8937 次阅读|没有评论
Batch与Patch
张伟 2020-8-27 19:30
Batch是批量的大小,就是你训练的时候每次输入多少张图片。 Patch是图像块的大小,比如说原图1024*1024,随机从图中裁剪出256*256大小的块,就是patch。更准确来说: “patch”, 指一个二维图片中的其中一个小块, 即一张二维图像中有很多个patch. 正如在神经网络的卷积计算中, 图像并不是一整块图像直接同卷积核进行运算, ...
个人分类: 机器学习|5540 次阅读|没有评论
感受野
张伟 2020-8-27 14:57
(一)理论部分 感受野(Receptive Field) ,指的是神经网络中神经元“看到的”输入区域,在卷积神经网络中,feature map上某个元素的计算受输入图像上某个区域的影响,这个区域即该元素的感受野。 卷积神经网络中,越深层的神经元看到的输入区域越大,如下 ...
个人分类: 机器学习|1847 次阅读|没有评论
[转载]理解权重衰减(weight decay)和学习率衰减(learning rate decay)及Dropout
张伟 2020-8-24 21:16
1. 权重衰减(weight decay) L2正则化的目的就是为了让权重衰减到更小的值,在一定程度上减少模型过拟合的问题,所以 权重衰减也叫L2正则化 。 1.1 L2正则化与权重衰减系数 L2正则化就是在代价函数后面再加上一个正则化项: 其中C 0 ...
个人分类: 机器学习|2434 次阅读|没有评论
[转载]神经网络梯度消失与梯度爆炸问题
张伟 2020-8-23 23:48
见博客: https://www.cnblogs.com/pinking/p/9418280.html 对于梯度消失和梯度爆炸的理解 一、梯度消失、梯度爆炸产生的原因   说白了,对于1.1 1.2,其实就是矩阵的高次幂导致的。在多层神经网络中,影响因素主要是权值和激活函数的偏导数。 1.1 前馈网络   假设存在一个网络结构如图: ...
个人分类: 机器学习|2030 次阅读|没有评论
分类问题中的过采样和欠采样
张伟 2020-8-19 15:13
(一)在分类问题中,有存在正反例数目差异较大的情况,这种情况叫做 类别不平衡 。 针对这种问题,解决方式主要有3种:假设正例数量大,反例数目极小。 1、减少正例的数量,使得数据平衡,再进一步分类,这种情况属于“ 欠采样 ”; 2、增加反例的数目平衡数据,再分类,这种称为“ 过采样 ”; 3、 阈值移动 : ...
个人分类: 机器学习|5147 次阅读|没有评论
Hausdorff 距离
张伟 2020-8-13 16:07
豪斯多夫距离 Hausdorff距离 量度度量空间中真子集之间的距离。所谓度量空间,也就是一个集合,其中任意元素之间的距离可定义;真子集就简单理解成一组有限(可以是无限)数目的元素(点)集合。因此, Hausdorff距离可以理解成一个点集中的点到另一个点集的最短距离的最大值。   ...
个人分类: 机器学习|4595 次阅读|没有评论

本页有 1 篇博文因作者的隐私设置或未通过审核而隐藏

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2023-1-27 06:49

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部