【Description】
At ree is a nonlinear data structure that models a hierarchical organization. The characteristic eatures are that each element may have several successors (called its “children”) and ev...
分类:
其他好文 时间:
2014-08-17 22:47:03
阅读次数:
275
自我学习就是稀疏编码器串联一个Softmax分类器,上一节看到,训练400次,准确率为98.2%
在此基础上,我们可以搭建我们的第一个深度网络:栈式自编码(2层)+Softmax分类器
简单地说,我们把稀疏自编码器的输出作为更高一层稀疏自编码器的输入。
和自我学习很像,似乎就是新加了一层,但是其实不然:
新技巧在于,我们这里有个微调的过程,让残差从最高层向输入层传递,微调整个网络权重...
分类:
其他好文 时间:
2014-08-16 12:37:40
阅读次数:
220
自我学习就是把稀疏自编码器与Softmax回归分类器串联起来。
稀疏编码器是用来无监督学习的,使用无标签数据。
Softmax回归分类器是有监督学习,使用标签数据。
实际生活中,我们能轻松获得大量无标签数据(如从网上随机下载海量图片)
难以获得大量有标签数据(有标签的数据库通常不会太大,而且很贵)
如果我们手头上只有少量标签数据,但是有大量的无标签数据,这是就可以采用自我...
分类:
其他好文 时间:
2014-08-13 13:03:36
阅读次数:
493
Softmax回归就是推广版本的逻辑回归。
只不过逻辑回归是个2分类问题,而Softmax是多分类问题,仅此而已。
Softmax回归在2分类情况下就蜕化成了逻辑回归。
逻辑回归的代价函数
考虑到权重衰减,修改一下就是Softmax回归的代价函数了
这里的权重衰减项是必须的,因为原先的代价函数不是严格凸函数,有无穷个极小值。现在加了这个权重衰减项,函数变成了严格凸函数。L...
分类:
数据库 时间:
2014-08-12 17:10:34
阅读次数:
502
ufldl学习笔记与编程作业:Softmax Regression(vectorization加速)
ufldl出了新教程,感觉比之前的好,从基础讲起,系统清晰,又有编程实践。
在deep learning高质量群里面听一些前辈说,不必深究其他机器学习的算法,可以直接来学dl。
于是最近就开始搞这个了,教程加上matlab编程,就是完美啊。
新教程的地址是:http://ufldl.stanford.edu/tutorial/
本节是对http://blog.csdn.net/lingerlanlan/...
分类:
其他好文 时间:
2014-08-07 23:08:45
阅读次数:
481
ufldl学习笔记与编程作业:Softmax Regression(softmax回归)
ufldl出了新教程,感觉比之前的好,从基础讲起,系统清晰,又有编程实践。
在deep learning高质量群里面听一些前辈说,不必深究其他机器学习的算法,可以直接来学dl。
于是最近就开始搞这个了,教程加上matlab编程,就是完美啊。
新教程的地址是:http://ufldl.stanford.edu/tutorial/...
分类:
其他好文 时间:
2014-08-07 03:06:28
阅读次数:
290
UFLDL 教程答案 稀疏编码篇与softmax篇的答案已经传到资源,大家可以免费下载~
另外,关于资源里面描述的低效率的代码的问题,逗比的博主已经找到了解决方案,大家需要修改两个文件的两处代码,绿色是需要被注释的
softmaxCos.m文件
%% 非向量化
%for i = 1 : numCases
% thetagrad = thetagrad + (groundTruth(...
分类:
其他好文 时间:
2014-07-30 09:59:23
阅读次数:
696
uvm_voidThe uvm_void class is the base class for all UVM classes.uvm_object:The uvm_object class is the base class for all UVM data and hierarchical c...
分类:
其他好文 时间:
2014-07-27 23:12:09
阅读次数:
484
Using {{for}} to render hierarchical data - inline nested template. title ...
分类:
Web程序 时间:
2014-07-27 22:35:29
阅读次数:
251
广义线性模型(generalized linear model)正是在普通线性模型的基础上,将上述四点模型假设进行推广而得出的应用范围更广,更具实用性的回归模型。此模式假设实验者所量测的随机变量的分布函数与实验中系统性效应(即非随机的效应)可经由一链结函数(link function)建立起可资解释...
分类:
其他好文 时间:
2014-07-24 22:51:23
阅读次数:
271