liuxingwu的个人博客

信息熵，衡量一个分布的不确定性，即对 编码的平均长度： 交叉熵，衡量对真实分布 的近似分布 编码的平均长度： ，其意义通过相对熵体现。 相对熵（即KL散度），衡量近似分布 与真实分布 的接近程度： . 当 固定时，交叉熵的最小值是 的信息熵。所以相对熵非负。而且KL散度与交叉熵的走势是完全一样的，所以常使用交叉 ...

对于二元随机变量 (X,Y)，如何衡量他们之间有多相关？协方差显然不合适，因为没有归一。线性相关系数也显然不合适，因为只能反应线性关系的强弱。互信息是一个不错的选项。 互信息为什么可以表示“X透露出Y的信息的量”？因为互信息 就是熵与条件熵的差。 互信息为什么非负？因为互信息就是联合分布熵与边际分布乘积 ...

假设：一个图G=(V,E,d)，其中d是非负边长，顶点子集S是Terminal集合，希望找到G中的一棵子树，包含S，且最小。 算法： Step 1:对S中每对点(u,v)，计算在G中的最短路P(u,v)及其长度d'(u,v)，得到S上的带权完全图G'=(S,E',d')； Step 2:构造G'的最小生成树T； Step 3:把T中的所 ...

MAC上的Power Point支持演讲者视图（即使不连接外显），该视图有提示小窗口，在网络会议或者网课时非常方便。但是，当使用腾讯会议共享屏幕时，只希望共享大窗口、不共享小窗口，因此直接共享PPT应用是不行的。一个解决办法是：先使用演讲者视图播放PPT，然后在腾讯会议中共享应用时，选择播放中的PPT大窗口。这样共 ...

ipad和mac都连接同一个wifi，登录同一个apple id且此apple id开启双重认证，都打开蓝牙。 ipad和mac都开启“接力” 此时在mac上就已经能看到ipad了，但是连接时报错。重启mac后再连，不再有问题。