本文在对Logistic回归做了简要分析之后，采用Python变成实现，进而通过实例就预测功能进行了分析验证。
分类：
其他好文 时间：
2015-09-05 01:17:50
阅读次数：
229
决策树是个极其易懂的算法，也是最常用的数据挖掘算法，决策树允许机器根据数据集创造规则，其实这就是机器学习的过程。专家系统中经常会使用到决策树及其变种，而且决策树给出的结果往往可以匹敌在当前领域具有几十年工作经验的专家。
优点：决策树的计算复杂度不高，输出结果易于理解，对中间值的缺失不敏感，可以处理不相关特征数据；
缺点：可能会产生过度匹配的问题；
适用数据类型：数值型和标称型。...
分类：
其他好文 时间：
2015-09-03 00:46:44
阅读次数：
296
Logistic回归也是一种分类算法，其主要思想是：根据现有数据对分类边界建立回归公式，以此进行分类。简单的说就是采用Logistic回归函数，接受所有的特征值输入，然后输出类别。Logistic函数又叫sigmoid函数：形状为：从上图容易看出，输入t，在x!=0的情况下，P(t)大于0.5 或小...
分类：
其他好文 时间：
2015-09-03 00:42:01
阅读次数：
210
导说：都属于广义线性回归范畴。线性回归分析：一元线性（当个因变量，一次，是条直线）；多元线性（因变量有很多个，但也是一次，在空间中就是一个平面）；广义线性（高维线性回归，也就是一个超平面）（都是一次的，因此称为线性回归）非线性回归分析：非一次的，是曲线，有..
分类：
其他好文 时间：
2015-08-31 19:54:46
阅读次数：
143
推荐书：数据挖掘：实用机器学习数据挖掘：概念与技术韩家伟著；细读+后面的引用文章；机器学习实战（python）；机器学习实用案例解析（R语言）；神经网络与机器学习simonhaykin著；难BuildingmLsystemwithpython(机器学习系统设计)；R语言官方网站：www.r-project.orgWEKA：官..
分类：
其他好文 时间：
2015-08-31 17:32:05
阅读次数：
139
机器学习：k-近邻(kNN)算法的基本原理与Python实现。...
分类：
编程语言 时间：
2015-08-30 01:02:31
阅读次数：
172
关于Andrew Ng的machine learning课程中，有一章专门讲解逻辑回归（Logistic回归），具体课程笔记见另一篇文章。下面，对Logistic回归做一个简单的小结：给定一个待分类样本x，利用Logistic回归模型判断该输入样本的类别，需要做的就是如下两步：① 计算逻辑回归假设函...
分类：
其他好文 时间：
2015-08-29 13:55:10
阅读次数：
299
这个系列是为了应对找工作面试时面试官问的算法问题，所以只是也谢算法的简要介绍，后期会陆续补充关于此
算法的常见面问题。
一、Logistic回归
先说下logistic回归，它是根据现有数据对分类边界建立回归公式，以此进行分类。其计算代价不高，易于实现与理解，但是容易欠拟合、分类精度不太高；
logistic回归可以看成是一种概率估计，使用的的是sigmioid函数，...
分类：
编程语言 时间：
2015-08-26 12:04:29
阅读次数：
286
上节我们探讨了关于拉格朗日乘子和KKT条件，这为后面SVM求解奠定基础，本节希望通俗的细说一下原理部分。一个简单的二分类问题如下图：
我们希望找到一个决策面使得两类分开，这个决策面一般表示就是WTX+b=0W^TX+b=0,现在的问题是找到对应的W和b使得分割最好，知道logistic分类 机器学习之logistic回归与分类的可能知道，这里的问题和那里的一样，也是找权值。在那里，我们是根据每...
分类：
其他好文 时间：
2015-08-17 19:32:59
阅读次数：
315
在前两节曾经介绍过logistic回归与分类算法，并对线性与非线性数据集分别进行分类实验。Logistic采用的是一层向量权值求和的方式进行映射，所以本质上只能对线性分类问题效果较好（实验也可以看到），其模型如下所示（详细的介绍可看上两次博客：机器学习之logistic分类线性与非线性实验（续））：既然如此，我们可不可以在Y出来之前在多进行几次映射呢？答案是可以的，这就引出了多层网络，每层网络的输出...
分类：
编程语言 时间：
2015-08-10 18:13:13
阅读次数：
199
