有个博友问SIFT和Dense-SIFT在应用上的区别。这个问题可以放大到Sparse feature和Dense feature的使用场景上。之前自己也考虑过这个问题,今天不妨写出来。...
分类:
其他好文 时间:
2014-10-17 00:37:03
阅读次数:
299
我们团队为上一家公司承担运维、优化和扩展工作的时候,我们碰到了各种不同规模的性能很差的系统和基础设备(大型系统居多,比如CNN或者世界银行的系统)。要是再赶上修复时间紧、奇葩的技术平台、缺少信息和文档...
分类:
其他好文 时间:
2014-10-14 18:14:29
阅读次数:
190
数据预处理在众多深度学习算法中都起着重要作用,实际情况中,将数据做归一化和白化处理后,很多算法能够发挥最佳效果。当我们开始处理数据时,首先要做的事是观察数据并获知其特性。本部分将介绍一些通用的技术,在实际中应该针对具体数据选择合适的预处理技术。例如一种标准的预处理方法是对每一个数据点都减去它的均值(...
分类:
其他好文 时间:
2014-10-14 00:34:07
阅读次数:
450
摘抄自caffe github的issue697Siamesenets are supervised models for metric learning [1].[1] S. Chopra, R. Hadsell, and Y. LeCun. Learning a similarity metri...
分类:
Web程序 时间:
2014-10-13 16:38:19
阅读次数:
773
线性代数是数学的一个重要分支,经常被应用到工程问题中,要理解深度学习以及操作深度学习,那么对于线性代数深刻的理解是非常重要的,以下摘要是我从DL book的第二章线性代数中抽取出来的比较有意思的一些理解基础线代问题的另一种有趣的方法。
2.3 Identity and inverse matrices
在线性方程组的求解当中,Identity和inverse matrice有很重要的作...
分类:
其他好文 时间:
2014-10-10 23:23:14
阅读次数:
280
乔丹教授(Michael I. Jordan)教授是机器学习领域神经网络的大牛,他对深度学习、神经网络有着很浓厚的兴趣。因此,很多提问的问题中包含了机器学习领域的各类模型,乔丹教授对此一一做了解释和展望。首先被提到的就是经典的贝叶斯非参数模型。今年暑假,乔丹教授在Como开设了贝叶斯非参数模型的课程...
分类:
其他好文 时间:
2014-10-10 13:52:04
阅读次数:
169
本文笔记旨在概括地讲deep learning的经典应用。内容太大,分三块。
1. 回顾 deep learning在图像上的经典应用
1.1 Autoencoder
1.2 MLP
1.3 CNN
2. deep learning处理语音等时序信号
2.1 对什么时序信号解决什么问题
2.2 准备知识
2.2.1 Hidden Markov Model(HMM)
2.2.2 GMM-HMM for Speec...
分类:
其他好文 时间:
2014-10-10 11:21:04
阅读次数:
368
在imagenet上的图像分类challenge上Alex提出的alexnet网络结构模型赢得了2012届的冠军。要研究CNN类型DL网络模型在图像分类上的应用,就逃不开研究alexnet,这是CNN在图像分类上的经典模型(DL火起来之后)。
在DL开源实现caffe的model样例中,它也给出了alexnet的复现,具体网络配置文件如下(https://github.com/BVLC/caff...
分类:
Web程序 时间:
2014-10-10 00:47:41
阅读次数:
3305
1简介为了理解复杂的数据,人们提出了分层特征提取概念。著名的算法之一是2006年Hinton提出的DeepBeliefNetwork(DBN)。随着训练深层结构的成功,人们又提出了许多深度学习的变体。尽管这些多层算法产生了多层方法在特征提取和提供对复杂问题的有效方法,但并没有告诉我们通过..
分类:
其他好文 时间:
2014-10-05 23:58:49
阅读次数:
344
这篇论文是今年9月份的论文[1],比较新,其中的观点感觉对卷积神经网络的参数调整大有指导作用,特总结之。关于卷积神经网络(Convolutional Neural Network, CNN),笔者后会作文阐述之,读者若心急则或可用谷歌百度一下。...
分类:
Web程序 时间:
2014-10-02 17:08:02
阅读次数:
1448