L2范数 除了L1范数，还有一种更受宠幸的规则化范数是L2范数: ||W||2。它也不逊于L1范数，它有两个美称，在回归里面，有人把有它的回归叫“岭回归”（Ridge Regression），有人也叫它“权值衰减weight decay”。这用的很多吧，因为它的强大功效是改善机器学习里面一个非常.....
分类：
其他好文 时间：
2014-08-27 12:46:08
阅读次数：
377
向量之间的相似度
度量向量之间的相似度方法很多了，你可以用距离（各种距离）的倒数，向量夹角，Pearson相关系数等。
皮尔森相关系数计算公式如下：
分子是协方差，分子是两个变量标准差的乘积。显然要求X和Y的标准差都不能为0。
因为,所以皮尔森相关系数计算公式还可以写成：
当两个变量的线性关系增强时，相关系数趋于1或-1。
用户评分预测
...
分类：
其他好文 时间：
2014-08-21 19:28:24
阅读次数：
796
稀疏数组的长度返回的不对，不知道算不算是个 bug？（在 Lua5.2.2 中测试的） 如果一个表容量一半的元素，用 ‘#‘ 取长度取的不对。但是对于小于容量一半的情况，表现的是对的。 根据 Lua 的代码实现，‘#’号取表...
分类：
其他好文 时间：
2014-08-21 15:22:14
阅读次数：
234
稀疏表示是近期几年信号处理领域的热点之中的一个，简单来说，它事实上是一种对原始信号的分解过程，该分解过程借助一个事先得到的字典（也有人称之为过完备基，overcompletebasis，后面会介绍到），将输入信号表示为字典的线性近似的过程。即：
分类：
其他好文 时间：
2014-08-19 14:06:54
阅读次数：
229
稀疏自编码器效果不错，但是有个固有缺陷：必须对输入数据的范围缩放到(0,1)。
设想一个图像如果不经预处理，直接把大于1的值输入稀疏自编码器，那么被sigmoid一下，就成了（0,1）的范围了，再被sigmoid一下，还是在（0,1）范围。这样残差根本没办法算，因为经过了sigmoid变换之后的数据已经不可能与输入数据相等了。
但是如果我们把第三层，原先的sigmoid函数换成恒等...
分类：
其他好文 时间：
2014-08-16 15:12:00
阅读次数：
302
自我学习就是稀疏编码器串联一个Softmax分类器，上一节看到，训练400次，准确率为98.2%
在此基础上，我们可以搭建我们的第一个深度网络：栈式自编码（2层）+Softmax分类器
简单地说，我们把稀疏自编码器的输出作为更高一层稀疏自编码器的输入。
和自我学习很像，似乎就是新加了一层，但是其实不然：
新技巧在于，我们这里有个微调的过程，让残差从最高层向输入层传递，微调整个网络权重...
分类：
其他好文 时间：
2014-08-16 12:37:40
阅读次数：
220
拉伸、收缩、扭曲、旋转是图像的几何变换，在三维视觉技术中大量应用到这些变换，又分为仿射变换和透视变换。仿射变换通常用单应性建模，利用cvWarpAffine解决密集映射，用cvTransform解决稀疏映射。仿射变换可以将矩形转换成平行四边形，它可以将矩形的边压扁但必须保持边是平行的，也可以将矩形旋...
分类：
其他好文 时间：
2014-08-16 01:01:29
阅读次数：
345
透视变换（单应性？）能提供更大的灵活性，但是一个透视投影并不是线性变换，因此所采用的映射矩阵是3*3，且控点变为4个，其他方面与仿射变换完全类似，下面的例程是针对密集变换，稀疏图像变换则采用cvPerspectiveTransform函数来处理。---------------------------...
分类：
其他好文 时间：
2014-08-16 00:56:59
阅读次数：
242
一、稀疏矩阵的定义 对于那些零元素数目远远多于非零元素数目，而且非零元素的分布没有规律的矩阵称为稀疏矩阵（sparse）。 人们无法给出稀疏矩阵的确切定义，一般都仅仅是凭个人的直觉来理解这个概念，即矩阵中非零元素的个数远远小于矩阵元素的总数，而且非零元素没有分布规律。 二、稀疏矩阵的压缩存...
分类：
其他好文 时间：
2014-08-14 23:32:56
阅读次数：
178
查看组播路由表：showipmroute查看igmp组成员：showipigmpgroup通用规则：1.无论何时，只要创建一个（S，G）项而其相应的父（*，G）不存在，就首先自动创建新的（*，G）项。2.RPF接口是作为对源IP地址（或稀疏模式（*，G）项，RP）的最小开销路径接口来估算的。如果多个接口开..
分类：
其他好文 时间：
2014-08-13 15:05:47
阅读次数：
378
