数据降维的重要性就不必说了，而用NN（神经网络）来对数据进行大量的降维是从2006开始的，这起源于2006年science上的一篇文章：reducing the dimensionality of data with neural networks，作者就是鼎鼎有名的Hinton，这篇文章也标志着d...
分类：
其他好文 时间：
2014-11-25 17:49:23
阅读次数：
206
在上一篇《DeepLearning 的挑战： Extreme Learning Machine（超限学习机）？》 中介绍了一些ELM与DL 的一些比较，这篇主要介绍ELM的原理。
首先，ELM的核心就是将复杂的迭代过程转变为隐层参数随机产生。
其次，ELM 是一个神经网络，有输入层、隐藏层，输出层。
最后，ELM 的多分类效果优于SVM。
对于训练样本集{xi,ti} i=1-N,...
分类：
其他好文 时间：
2014-11-25 12:48:37
阅读次数：
226
可以使用最小二乘法来进行柜位预测，但是其预测的时间短，不能很好的用于实践当中。在查询了一些资料后，神经网络是解决该问题的最好的方法。神经网络是什么，我们应该如何使用它来完成功能，我会在本篇和后续的文章中逐一介绍自己所学的心得。本篇是翻译文章，对神经网络库——FANN库进行了介绍。本人英语水平有限，有翻译不当的地方望指出。
本篇译文的原文可以从此下载。
简化神经网络
多年前，好莱坞科幻片《...
分类：
其他好文 时间：
2014-11-24 17:17:31
阅读次数：
170
ufldl出了新教程，感觉比之前的好，从基础讲起，系统清晰，又有编程实践。
在deep learning高质量群里面听一些前辈说，不必深究其他机器学习的算法，可以直接来学dl。
于是最近就开始搞这个了，教程加上matlab编程，就是完美啊。
新教程的地址是：http://ufldl.stanford.edu/tutorial/...
分类：
Web程序 时间：
2014-11-22 23:08:11
阅读次数：
740
对人脸检测的研究最初可以追溯到 20 世纪 70 年代，早期的研究主要致力于模板匹配、子空间方法，变形模板匹配等。近期人脸检测的研究主要集中在基于数据驱动的学习方法，如统计模型方法，神经网络学习方法，统计知识理论和支持向量机方法，基于马尔可夫随机域的方法，以及基于肤色的人脸检测。目前在实际中应用的人...
分类：
编程语言 时间：
2014-11-21 16:07:04
阅读次数：
220
1 Gradient Checking 说明前面我们已经实现了Linear Regression和Logistic Regression，关键在于代价函数Cost Function和其梯度Gradient的计算。在Gradient的计算中，我们一般采用推导出来的计算公式来进行计算。但是我们看到，推导出来的公式是复杂的，特别到后面的神经网络，更加复杂。这就产生了一个问题，我们如何判断我们编写的程序就...
分类：
其他好文 时间：
2014-11-20 13:46:16
阅读次数：
339
本文主要内容包括： (1) 介绍神经网络基本原理，(2) AForge.NET实现前向神经网络的方法，(3) Matlab实现前向神经网络的方法 。第0节、引例 本文以Fisher的Iris数据集作为神经网络程序的测试数据集。Iris数据集可以在http://en.wikipedia.org/w.....
分类：
其他好文 时间：
2014-11-19 10:39:22
阅读次数：
285
最近自己接触到的知识有些杂乱。最近涉及到了PLC的自动化控制、煤气柜位预测等方面的内容。PLC的学习目前中断了一阵子，最近接触了柜位预测的相关算法——神经网络、最小二乘法等相关的算法。今天先简单介绍一下，自己做的一个煤气柜位曲线显示的小demo，相关的算法的实现将在以后学习研究介绍吧。
1、界面曲线显示
我选择采用C#来进行实时曲线的显示，C#报表控件有很多，经过比较，在实时显示曲线上C#的开...
分类：
其他好文 时间：
2014-11-18 00:23:19
阅读次数：
246
原英文教程地址见：http://ufldl.stanford.edu/tutorial/supervised/MultiLayerNeuralNetworks
本文是在学习该教程时记得笔记，供参考。周末的时候利用空闲时间用python实现了一下，但是训练结果总是不对，原因尚未查清楚，如果公式推导有误请指出，谢谢！...
分类：
其他好文 时间：
2014-11-17 19:27:28
阅读次数：
282
本文结合维基百科http://en.wikipedia.org/wiki/Backpropagation的说明，对神经网络的后向传播算法做一个总结，并作简单的公式推导。典型的只含有1个隐层的3层神经网络的后向传播算法流程如下：initialize network weights (often sma...
分类：
编程语言 时间：
2014-11-17 17:35:16
阅读次数：
437
