一个典型的logistic regression模型是: 这里明明用了非线性函数,那为什么logistic regression还是线性模型呢? 首先,这个函数不是f(y,x)=0的函数,判断一个模型是否是线性,是通过分界面是否是线性来判断的。 这个P函数是y关于x的后验概率,它的非线性性不影响分界 ...
分类:
其他好文 时间:
2017-05-20 21:14:27
阅读次数:
354
机器学习是在模型空间中选择最优模型的过程,所谓最优模型,及可以很好地拟合已有数据集,并且正确预测未知数据。 那么如何评价一个模型的优劣的,用代价函数(Cost function)来度量预测错误的程度。代价函数有很多中,在Ng的视频中,Linear Regression用的是平方代价函数: Logis ...
分类:
系统相关 时间:
2017-05-20 14:26:59
阅读次数:
261
所需解决的问题是,训练一个Logistic Regression系统,使之能够识别手写体数字1-10,每张图片为20px*20px的灰度图。训练样例的输入X是5000行400列的一个矩阵,每一行存储一张图片(20^2=400),共5000个训练样例,而y则为手写体所表示的数字1-10。 利用Logi ...
分类:
其他好文 时间:
2017-05-18 11:35:21
阅读次数:
251
本次Octave仿真解决的问题是,根据两门入学考试的成绩来决定学生是否被录取,我们学习的训练集是包含100名学生成绩及其录取结果的数据,需要设计算法来学习该数据集,并且对新给出的学生成绩进行录取结果预测。 首先,我们读取并绘制training set数据集: 然后,我们来学习训练集,直接使用我们逻辑 ...
分类:
编程语言 时间:
2017-05-14 21:46:34
阅读次数:
232
回归与梯度下降: 回归在数学上来说是给定一个点集,能够用一条曲线去拟合之,如果这个曲线是一条直线,那就被称为线性回归,如果曲线是一条二次曲线,就被称为二次回归,回归还有很多的变种,如locally weighted回归,logistic回归,等等,这个将在后面去讲。 用一个很简单的例子来说明回归,这 ...
分类:
其他好文 时间:
2017-05-08 22:03:08
阅读次数:
204
先是几个英文: linear regression线性回归 gradient descent梯度下降 normal equations正规方程组 notation符号: m denote(指示) the number of training examples x denote the input v ...
分类:
编程语言 时间:
2017-05-08 21:00:48
阅读次数:
205
1. Fit locally If the true model changes much, we want to fit our function locally to different regions of the input space. 2. Scaled distance \ we pu ...
分类:
其他好文 时间:
2017-05-07 19:50:16
阅读次数:
125
1. Feature selection Sometimes, we need to decrease the number of features Efficiency: With fewer features, we can compute quickly Interpretaility: wh ...
分类:
其他好文 时间:
2017-05-07 11:47:45
阅读次数:
182
二、单变量线性回归(Linear Regression with One Variable) 2.1 模型表示 2.2 代价函数 2.3 代价函数的直观理解 2.4 梯度下降 2.5 梯度下降的直观理解 2.6 梯度下降的线性回归 2.7 接下来的内容 2.1 模型表示 之前的房屋交易问题为例,假使 ...
分类:
其他好文 时间:
2017-05-06 19:59:57
阅读次数:
263
1. Ridge regression A way to automatically balance between bias and varaince situations and regulate overfitting when using many features. because the ...
分类:
其他好文 时间:
2017-05-06 00:54:37
阅读次数:
169