DeepID人脸识别算法之三代
DeepID,目前最强人脸识别算法,已经三代。
如今,深度学习方兴未艾,大数据风起云涌,各个领域都在处于使用深度学习进行强突破的阶段,人脸识别也不例外,香港中文大学的团队使用卷积神经网络学习特征,将之用于人脸识别的子领域人脸验证方面,取得了不错的效果。虽然是今年7月份才出的成果,但连发三箭,皆中靶心,使用的卷积神经网络已经改进了三次,破竹之势节节高。故而在这里将DeepID神经网络的三代进化史总结一下,以期相互讨论,互有增益。...
                            
                            
                                分类:
编程语言   时间:
2014-12-23 00:16:37   
                                阅读次数:
366
                             
                    
                        
                            
                            
                                LRN全称为Local Response Normalization,即局部响应归一化层,具体实现在CAFFE_ROOT/src/caffe/layers/lrn_layer.cpp和同一目录下lrn_layer.cu中。
该层需要参数有:
norm_region: 选择对相邻通道间归一化还是通道内空间区域归一化,默认为ACROSS_CHANNELS,即通道间归一化;...
                            
                            
                                分类:
其他好文   时间:
2014-12-19 23:30:21   
                                阅读次数:
583
                             
                    
                        
                            
                            
                                考虑一个代价函数C , 它根据参数向量
 计算出当前迭代模型的代价,记作C().
 机器学习中,我们的任务就是得到代价的最小值,在机器学习中代价函数通常是损失函数的均值,或者是它的数学期望。见下图:
这个叫做泛化损失,在监督学过程中,我们知道z=(x,y)  ,并且 f(x)
 是对y的预测。
什么是这里的梯度呢?
当 是标量的时候,代价函数的梯度可表示如下:
当...
                            
                            
                                分类:
其他好文   时间:
2014-12-17 22:43:44   
                                阅读次数:
323
                             
                    
                        
                            
                            
                                什么是机器学习?
传统的教科书会用一大堆高等数学,线性代数,概率论,统计学等知识把你拒之门外,这里博主俺决定用一个很简单的例子给不用你任何高深的数学知识来理解。
    在写机器学习之前,我们来举个例子。假设你是个古代的国王,那里没有现代的科技,你想找个预报天气比较准的人来帮你预报天气。你要怎么办呢?通常,我们会找一个人,让他预报10000天,看它的准确率如何,然后再找一个人,再预报1...
                            
                            
                                分类:
其他好文   时间:
2014-12-17 22:41:29   
                                阅读次数:
275
                             
                    
                        
                            
                            
                                我记得科学松鼠会的姬十三曾在一篇文章中写到,开始干一件好事情就像拿着锣一敲,然后志同道合的人就从四面八方赶来。开源之美,仅在于此。
不要问怎么入门,直接上路吧。
您刚才那个问题是说大数据跟人工智能和深度学习怎么划等号?是这么一个关系,大数据是一个研究对象,人工智能是一个目标,我们要达到人工智能的目标,要理解数据,方法论是机器学习或者是智能计算。深度学习是机器学习里面十个手指头里面的一个...
                            
                            
                                分类:
其他好文   时间:
2014-12-17 18:37:41   
                                阅读次数:
206
                             
                    
                        
                            
                            
                                周日在北大理教听了余凯和漆远关于深度学习的讲座,这个讲座是北大机器学习研究会办的,不是学术性质,是有点科普性质的一个对话,雷鸣做现场主持。 刚开始余凯说了一下什么是大数据,他提到除了数据源、数据仓库,还有分层的概念,是分层学习的意思吗?存疑;漆远提到一本大数据的入门书,introduction...
                            
                            
                                分类:
其他好文   时间:
2014-12-15 13:27:07   
                                阅读次数:
159
                             
                    
                        
                            
                            
                                CNN的内容啦,CNN讲起来有些纠结,你可以事先看看convolution和pooling(subsampling),还有这篇:tornadomeet的博文
                            
                            
                                分类:
Web程序   时间:
2014-12-14 14:34:29   
                                阅读次数:
399
                             
                    
                        
                            
                            
                                Deep Learning(深度学习):ufldl的2个教程(这个没得说,入门绝对的好教程,Ng的,逻辑清晰有练习):一ufldl的2个教程(这个没得说,入门绝对的好教程,Ng的,逻辑清晰有练习):二Bengio团队的deep learning教程,用的theano库,主要是rbm系列,搞pytho...
                            
                            
                                分类:
其他好文   时间:
2014-12-14 14:27:55   
                                阅读次数:
497
                             
                    
                        
                            
                            
                                深度学习:采用无监督学习,获得更有用的特征(不需要人工抽取特征),以实现各种分类和预测目标,结合高性能计算,提高效率。
                            
                            
                                分类:
其他好文   时间:
2014-12-14 13:07:23   
                                阅读次数:
306
                             
                    
                        
                            
                            
                                注:此页是一个引导的页面,后续将会分7个主要教程和一些高级的例子,一步一步讲解深度学习。
这里的教程将为大家提供最重要的几个深度学习算法,并且也会告知如何去用theano来运行它们。theano是一个python类库,它能够帮助大家容易的去写深度算法模型,并且可以让大家能够在GPU上运行这些算法
学习这些教程之前,需要熟悉下先热下身,这里是theano的基础教程,学完之后,再看下这个东...
                            
                            
                                分类:
其他好文   时间:
2014-12-14 12:00:41   
                                阅读次数:
624