为了给课程的前四讲画上一个句号,这里补充两个前四讲中Andrew大神提到过的模型。The perceptron learning algorithm 感知机模型:从模型上来看感知机与逻辑回归十分相似,只不过逻辑回归的g函数是逻辑函数(又称sigmoid函数),它是一条从y值0到1的连续曲线。当z→∞...
分类:
其他好文 时间:
2015-07-16 16:30:29
阅读次数:
1339
逻辑回归是广义线性模型的一种特殊情况,但是在前面这篇http://blog.csdn.net/zhangzhengyi03539/article/details/46574803 讲逻辑回归的时候没有说明为什么要采用单极型函数,这篇文章将会从浅入深的讲解一下广义线性模型。
首先来说一下指数分布族。...
分类:
其他好文 时间:
2015-07-11 09:18:34
阅读次数:
150
模拟: 语法的分析hash一切Key建设规划,对于记录在几个地点的每个节点原始的字符串开始输出。。。。对每一个询问沿图走就能够了。。。。Hierarchical NotationTime Limit:2 Seconds Memory Limit:131072 KBIn Marjar Universi...
分类:
其他好文 时间:
2015-07-08 09:26:54
阅读次数:
116
Oracle中的Connect By... Start With语句实现了递归查询或者树状查询。Connect By Prior 一方为起始(root)的ID参考:http://www.360doc.com/content/13/0422/16/11947209_280153192.shtmlhtt...
分类:
数据库 时间:
2015-07-05 18:11:59
阅读次数:
120
A note on matrix implementations将J对softmax的权重W和每个word vector进行求导:尽量使用矩阵运算(向量化),不要使用for loop。模型训练中有两个开销比较大的运算:矩阵乘法f=Wx和指数函数expSoftmax(=logistic regression) is not very powerfulsoftmax只是在原来的向量空间中给出了一些lin...
分类:
其他好文 时间:
2015-07-04 22:20:10
阅读次数:
283
引入随着深度学习的出现,CV领域突破很多,甚至掀起了一股CV界的创业浪潮,当次风口浪尖之时,Google岂能缺席。贡献出FaceNet再刷LFW上人脸验证的效果新高
FaceNet与其他的深度学习方法在人脸上的应用不同,并没有用传统的softmax的方式去进行分类学习,然后抽取其中某一层作为特征,而是直接进行端对端学习一个从图像到欧式空间的编码方法,然后基于这个编码再做人脸识别、人脸验证和人脸聚类。...
分类:
Web程序 时间:
2015-06-29 22:15:38
阅读次数:
17456
ufldl学习笔记与编程作业:Softmax Regression(softmax回归)ufldl出了新教程。感觉比之前的好,从基础讲起。系统清晰,又有编程实践。在deep learning高质量群里面听一些前辈说,不必深究其它机器学习的算法,能够直接来学dl。于是近期就開始搞这个了。教程加上mat...
分类:
其他好文 时间:
2015-06-26 21:05:26
阅读次数:
147
Determining the number of clusters/segments in hierarchical clustering/segmentation algorithms由于unique函数在这里找矩阵不同元素的时不能有效得到,所以自己编了小程序实现。Matlab codeL:cl...
分类:
其他好文 时间:
2015-06-25 00:03:48
阅读次数:
158
MNIST是一套对手写数字进行识别的数据集:http://yann.lecun.com/exdb/mnist/MNIST的数据结构官网上已给出,挺奇葩的-.-,所以第一件事是把数据整理出来我写了个脚本帮我整理,输出的是一坨文本文件,【其中image是用灰度矩阵表示,每个像素1字节,每张图28x28 ...
分类:
其他好文 时间:
2015-06-21 18:29:51
阅读次数:
169
指数分布族形式:应用:1. logistic 回归:
logistics 回归其实是伯努利分布。p(y;θ)=θy?(1?θ)1?yp(y;\theta) = \theta^y * (1-\theta)^{1-y} . 其中θ\theta可以看做hθ(x)h_\theta(x)
伯努利分布是指数分布的一个特列:
其中:
η=log(θ1?θ)\eta = log(\frac\theta{...
分类:
其他好文 时间:
2015-06-21 13:16:24
阅读次数:
239