一般来说,回归是不用于分类的,因为回归是连续的,受噪声影响较大。为了能够处理分类问题,引入了逻辑回归。 逻辑回归本质上来说还是线性回归,他只是在线性回归的基础上加了一个映射函数。 假设函数:$h_\theta\left(x\right) = g\left(\theta^T x \right) = \ ...
分类:
其他好文 时间:
2017-04-18 10:12:59
阅读次数:
156
机器学习二 逻辑回归作业 作业在这,http://speech.ee.ntu.edu.tw/~tlkagk/courses/ML_2016/Lecture/hw2.pdf 是区分spam的。 57维特征,2分类问题。采用逻辑回归方法。但是上述数据集在kaggle中没法下载,于是只能用替代的方法了,下 ...
分类:
其他好文 时间:
2017-04-18 10:06:56
阅读次数:
260
机器学习二 逻辑回归 在生成模型中讲到了,可以利用手头的数据,假设数据是满足高斯分布,且是不同的均值,但是同一个协方差矩阵,基于贝叶斯的判别式,可以得到 p(c1|x)>0.5 是第一类 p(c1|x)可以转化为sigmod(z)=w*x +b 在生成模型中讲到了,可以利用手头的数据,假设数据是满足 ...
分类:
其他好文 时间:
2017-04-18 10:06:41
阅读次数:
193
1、表示定理的证明 如果你求解的是L2-regularized的问题,那么一定有一个最好的w可以表示成z的线性组合: 如何来证明这件事情呢? 我们将w分成两个部分,分别为w的平行部分(由zn展开的那个空间的向量来构成)和w的垂直部分(与zn展开表示的向量垂直的向量)。 我们希望最后完全没有w的垂直部 ...
分类:
其他好文 时间:
2017-04-16 10:48:01
阅读次数:
158
性能测试-响应时间的百分比指标 先前看过一本书,说到了性能测试者的关键数学原理,充分说明了关于性能测试一些数据的统计和分析,最大力度的获取性能测试的真实指标。对此有也有些自己的感想,尤其是响应时间,和用户切身相关的性能指标,通过百分比指标的分析,性能结果的好坏一目了然。 首先,大家看一组响应时间的数 ...
分类:
其他好文 时间:
2017-04-14 18:43:25
阅读次数:
386
2. 逻辑回归 Logistic回归算法基于Sigmoid函数,或者说Sigmoid就是逻辑回归函数。Sigmoid函数定义如下: 11+e?z。函数值域范围(0,1)。 因此逻辑回归函数的表达式如下: hθ(x)=g(θTX)=11+e?θTX其中,g(z)=11+e?z 其导数形式为: g′(z ...
分类:
其他好文 时间:
2017-04-14 00:11:49
阅读次数:
209
常见的机器学习模型:感知机,线性回归,逻辑回归,支持向量机,决策树,随机森林,GBDT,XGBoost,贝叶斯,KNN,K-means等; 常见的机器学习理论:过拟合问题,交叉验证问题,模型选择问题,模型融合问题等; K近邻:算法采用测量不同特征值之间的距离的方法进行分类。 优点: 1.简单好用,容 ...
分类:
其他好文 时间:
2017-04-07 15:52:23
阅读次数:
356
em,是一种含有隐含变量的概率模型参数的极大似然估计法。主要应用在机器学习以及计算机视觉的数据聚类领域。 lr,逻辑回归,本质也是线性回归,通过拟合拟合样本的某个曲线,然后使用逻辑函数进行区间缩放,但是一般用来分类,主要用在点击率预估、推荐系统等;svm,支撑向量机,通过找到样本空间中的一个超平面, ...
分类:
编程语言 时间:
2017-04-06 22:11:28
阅读次数:
197