博文

计算距离/相似度（返回矩阵）

2020-9-5 11:13

（1）理论参考 距离和相似度度量方法 （2）方法实现和涉及函数参数详解 相似度计算方法 Matlab中 pdist 函数详解(各种距离的生成) http://blog.sciencenet.cn/blog-531885-589056.html （3）计算cosin相似性距离案例 理论公式： matlab中pdist函数公式： 代码： a= ; Y = pdist(a,& ...

个人分类: 机器学习|4965 次阅读|没有评论

正交矩阵（坐标变换）与奇异值分解SVD

2020-9-2 17:06

（1）正交矩阵 预备知识：坐标变换与旋转矩阵 https://blog.csdn.net/datase/article/details/74502958 https://zhu ...

个人分类: 机器学习|3624 次阅读|没有评论

ROC曲线

2020-8-31 16:13

（一）术语 阳性 (P, positive) 阴性 (N, Negative) 真阳性 (TP, true positive)，正确的肯定。又称：命中 (hit) 真阴性 (TN, true negative)，正确的否定。又称：正确拒绝 (correct rejection) 伪阳性 (FP, false positive)，错误的肯定，又称：假警报 (false alarm)，第一型错误 伪阴性 (FN, false ...

个人分类: 机器学习|27087 次阅读|没有评论

[转载]随机游走 Random Walk

2020-8-28 09:33

1、算法开始前，先简单描述一下随机游走模型 一维随机游走问题：设一个质点（随机游走者）沿着一条直线运动，单位时间内只能运动一个单位长度，且只能停留在该直线上的整数点，假设在时刻 t ，该质点位于直线上的点 i ，那么在时刻 t+1 ，该质点的位置有三种可能： ①以 p 的概率跳到整数点 i-1 ...

个人分类: 机器学习|12506 次阅读|没有评论

Batch与Patch

2020-8-27 19:30

Batch是批量的大小，就是你训练的时候每次输入多少张图片。 Patch是图像块的大小，比如说原图1024*1024，随机从图中裁剪出256*256大小的块，就是patch。更准确来说： “patch”, 指一个二维图片中的其中一个小块, 即一张二维图像中有很多个patch. 正如在神经网络的卷积计算中, 图像并不是一整块图像直接同卷积核进行运算, ...

个人分类: 机器学习|7581 次阅读|没有评论

感受野

2020-8-27 14:57

（一）理论部分 感受野（Receptive Field） ，指的是神经网络中神经元“看到的”输入区域，在卷积神经网络中，feature map上某个元素的计算受输入图像上某个区域的影响，这个区域即该元素的感受野。 卷积神经网络中，越深层的神经元看到的输入区域越大，如下 ...

个人分类: 机器学习|2446 次阅读|没有评论

[转载]理解权重衰减（weight decay）和学习率衰减（learning rate decay）及Dropout

2020-8-24 21:16

1. 权重衰减（weight decay） L2正则化的目的就是为了让权重衰减到更小的值，在一定程度上减少模型过拟合的问题，所以 权重衰减也叫L2正则化 。 1.1 L2正则化与权重衰减系数 L2正则化就是在代价函数后面再加上一个正则化项： 其中C 0 ...

个人分类: 机器学习|3704 次阅读|没有评论

[转载]神经网络梯度消失与梯度爆炸问题

2020-8-23 23:48

见博客： https://www.cnblogs.com/pinking/p/9418280.html 对于梯度消失和梯度爆炸的理解 一、梯度消失、梯度爆炸产生的原因 　　说白了，对于1.1 1.2，其实就是矩阵的高次幂导致的。在多层神经网络中，影响因素主要是权值和激活函数的偏导数。 1.1 前馈网络 　　假设存在一个网络结构如图： ...

个人分类: 机器学习|2833 次阅读|没有评论

分类问题中的过采样和欠采样

2020-8-19 15:13

（一）在分类问题中，有存在正反例数目差异较大的情况，这种情况叫做 类别不平衡 。 针对这种问题，解决方式主要有3种：假设正例数量大，反例数目极小。 1、减少正例的数量，使得数据平衡，再进一步分类，这种情况属于“ 欠采样 ”； 2、增加反例的数目平衡数据，再分类，这种称为“ 过采样 ”； 3、 阈值移动 ： ...

个人分类: 机器学习|6416 次阅读|没有评论

本页有 1 篇博文因作者的隐私设置或未通过审核而隐藏