测试题目：
代码如下：
#include
#include
#include
#include
#include
#include
using namespace std;
double hypothesis(vector &feature,vector&w){
double sum=0.0;
for(int i=0;i<feature.size();i++){...
分类：
编程语言 时间：
2015-05-20 16:23:55
阅读次数：
407
逻辑回归和其他回归的异同，及其如何选择关于权值的更新函数问题。用最大似然估计来选取costfunction...
分类：
其他好文 时间：
2015-05-20 16:22:55
阅读次数：
2937
系列文章：《机器学习》学习笔记 最近看了《机器学习实战》中的第11章（使用Apriori算法进行关联分析）和第12章（使用FP-growth算法来高效发现频繁项集）。正如章节标题所示，这两章讲了无监督机器学习方法中的关联分析问题。关联分析可以用于回答"哪些商品经常被同时购买？"之类的问题。书中举了一...
分类：
编程语言 时间：
2015-05-18 00:53:01
阅读次数：
314
前面两篇总结了线性支持向量机模型，总体来说，就是在样本输入空间下对每个维度进行线性组合之后使用符号函数判别最终的类别。第一个是理想情况下的线性可分SVM，这是第二个的近似线性可分SVM的基础。而且也是一种递进关系，是为了从数学抽象化的理想模型到现实情形的一种推广，但它们终究是一种线性模型，对于更复杂的现实情形有时候依然会难以描述，需要使用非线性模型去描述。非线性SVM由于现实问题的复杂性，导致训练的...
分类：
其他好文 时间：
2015-05-17 23:36:18
阅读次数：
163
【原创】Liu_LongPo 转载请注明出处
【CSDN】http://blog.csdn.net/llp1992softmax 回归模型，是logistic 回归模型在多分类问题上的推广。关于logistic回归算法的介绍，前面博客已经讲得很清楚，详情可以参考博客机器学习实战ByMatlab（五）Logistic Regression 在logistic回归模型中，我们的激励函数sigmoid的...
分类：
编程语言 时间：
2015-05-17 15:21:26
阅读次数：
401
上一篇总结了对于训练数据集线性可分的理想情况下，使用硬间隔最大化训练得到分类超平面的SVM方法，这种方法在实际应用中并不实用，因为实际的训练数据总是会存在人为或不可控的因素干扰产生各种噪声，因此是无法在特征空间下找到线性可分的超平面的，但是噪声总是有限的，可以对硬间隔这个限制进行放松，引入一个松弛变量来控制分类超平面的训练，从而可以对近似可以线性可分的实际应用数据进行学习和预测。从这里也可以很明显...
分类：
其他好文 时间：
2015-05-16 00:14:46
阅读次数：
328
SVM（支持向量机）是典型的二分类的判别式模型，这种方法以Rosenblatt于1957年提出的感知机模型的基础上，都是通过训练一个分类超平面之后，作为分类的决策函数，然后对未知的样本进行预测。通过对输入特征使用法向量和截距w=(w1,w2,...wn)、bw=(w_1,w_2,...w_n)、b进行线性组合，得到超平面，最终的决策函数也和感知机一样，为符号函数f(x)=sign(w? ?x? +b...
分类：
其他好文 时间：
2015-05-13 06:28:39
阅读次数：
291
本文主要介绍logistic回归相关知识点和一个手写识别的例子实现
一、logistic回归介绍：
logistic回归算法很简单，这里简单介绍一下：
1、和线性回归做一个简单的对比
下图就是一个简单的线性回归实例，简单一点就是一个线性方程表示
(就是用来描述自变量和因变量已经偏差的方程)
2、logistic回归
可以看到下图，很难找到一条线性方程能将他们很好的分开...
分类：
其他好文 时间：
2015-05-10 22:27:27
阅读次数：
207
案例：从疝气病症预测病马的死亡率
准备数据时，数据中的缺失值是个非常棘手的问题。因为有时候数据相当昂贵，扔掉和重新获取都是不可取的，所以必须采用一些方法来解决这个问题。
在预处理阶段需要做两件事：第一，所有的缺失值必须用一个实数值来替换，因为我们使用的NumPy数据类型不允许包含缺失值。这里选择实数0来替换所有缺失值，恰好能适用于Logistic回归。第二，如果...
分类：
编程语言 时间：
2015-05-08 09:41:46
阅读次数：
187
1.1 逻辑回归算法
1.1.1 基础理论
logistic回归本质上是线性回归，只是在特征到结果的映射中加入了一层函数映射，即先把特征线性求和，然后使用函数g(z)将最为假设函数来预测。g(z)可以将连续值映射到0和1上。
它与线性回归的不同点在于：为了将线性回归输出的很大范围的数，例如从负无穷到正无穷，压缩到0和1之间，这样的输出值表达为“可能性”才能说服广大民众。当然了，把大值压缩到这...
分类：
编程语言 时间：
2015-05-07 18:55:51
阅读次数：
391
