思路：
之前的线性回归都是根据特征值服从的分布猜想结果，生成算法是根据结果猜想特征值的分布。
贝叶斯公式：
GDA高斯分类器：模型：写成表达式的形式：
分离效果图：
推理：
原理：根据上述表达式的形式和最大似然原理，我们要求出这两个高斯分布，使给出的case最大限度的符合。
写成表达式的形式：原因：为什么要求p(y|x)p(y|x)的最大似然：因为我们是要求给出XX后预测YY，因此我们要求给出x下y...
分类：
编程语言 时间：
2015-06-27 09:56:38
阅读次数：
135
ufldl学习笔记与编程作业：Softmax Regression（softmax回归）ufldl出了新教程。感觉比之前的好，从基础讲起。系统清晰，又有编程实践。在deep learning高质量群里面听一些前辈说，不必深究其它机器学习的算法，能够直接来学dl。于是近期就開始搞这个了。教程加上mat...
分类：
其他好文 时间：
2015-06-26 21:05:26
阅读次数：
147
课程2课程2
归纳
回归就是变量之间的关系
相关系数
RSS
线性回归通过R语言
多元线性模型
虚拟变量哑变量
多元线性回归模型
回归诊断
广义线性模型一元以及多元的线性回归，统计学东西比较多，统计学术语一堆堆的
《大数据的统计学基础》基础的基础
logistic回归，划入广义线性回归模型。
变量筛选，从一堆变量中求解出来，以及降维。
1.归纳拟合，一般选择直线或者次数比较低得曲线。（测试有误差，曲...
分类：
其他好文 时间：
2015-06-26 13:04:58
阅读次数：
263
Handwritten digits recognition (0-9)Multi-class Logistic Regression1. Vectorizing Logistic Regression(1) Vectorizing the cost function(2) Vectorizing ...
分类：
Web程序 时间：
2015-06-26 12:48:04
阅读次数：
807
这一节课主要讲如何用logistic regression做分类。 在误差衡量问题上，选取了最大似然函数误差函数，这一段推导是难点。 接下来是如何最小化Ein，采用的是梯度下降法，这个比较容易。 参考：http://beader.me/mlnotebook/section3/logistic-re....
分类：
其他好文 时间：
2015-06-25 22:56:17
阅读次数：
226
1. Sigmoid FunctionIn Logisttic Regression, the hypothesis is defined as:where function g is the sigmoid function. The sigmoid function is defined as:...
分类：
系统相关 时间：
2015-06-25 21:12:53
阅读次数：
804
这节课讲的是线性回归。与其他课程的线性回归相比，这门课要更加理论。通过说明线性回归误差是二分类误差的上界，来证明线性回归可以用于二元分类。参考：http://www.douban.com/note/323611077/
分类：
其他好文 时间：
2015-06-25 19:21:09
阅读次数：
160
这一节开始讲基础的Linear Regression算法。（1）Linear Regression的假设空间变成了实数域（2）Linear Regression的目标是找到使得残差更小的分割线（超平面）下面进入核心环节：Linear Regression的优化目标是minimize Ein(W)为了...
分类：
其他好文 时间：
2015-06-24 22:15:16
阅读次数：
373
(1) How to comput the Cost function in Univirate/Multivariate Linear Regression;(2) How to comput the Batch Gradient Descent function in Univirate/Mul...
分类：
系统相关 时间：
2015-06-24 10:55:27
阅读次数：
546
MNIST是一套对手写数字进行识别的数据集：http://yann.lecun.com/exdb/mnist/MNIST的数据结构官网上已给出，挺奇葩的-.-，所以第一件事是把数据整理出来我写了个脚本帮我整理，输出的是一坨文本文件，【其中image是用灰度矩阵表示，每个像素1字节，每张图28x28 ...
分类：
其他好文 时间：
2015-06-21 18:29:51
阅读次数：
169
