理论上，回归分析是在目标变量为连续型数据的情况下建模的，它不能处理目标变量为分类型数据的情况。而logic回归分析的思路是把分类变量（“是否开通VIP”）转化为连续变量（“开通VIP的概率”），进而使用回归分析的方法间接地研究分类分析的问题。一、原理假设vip变量为分类变量，其取值只有0和1，这是分...
分类：
编程语言 时间：
2015-02-12 18:09:22
阅读次数：
233
泛化能力差和过拟合问题
以一维的回归分析为例，输出为目标函数加上一点噪声yn=fn(xn)+noise。如果用高阶多项式去拟合数据的话（比如有五个数据点，用四次多项式去拟合的话，如果让该多项式曲线均通过这几个数据点的话，则只有唯一解），这种情况可能使得训练误差Ein很小，但是实际的真实误差就可能很大，这说明我们求解的模型的泛化能力很差(bad generalization)，这在...
分类：
其他好文 时间：
2015-02-10 11:24:44
阅读次数：
376
数据指标建模指的是，使用若干自变量并建立公式，以预测目标变量。如果研究的目标变量是连续型的，则称其为回归分析。一、一元线性回归分析data.lm|t|) (Intercept) 25.723456 1.043746 24.64 2.68e-12 ***weight 0.28...
分类：
编程语言 时间：
2015-02-06 20:15:46
阅读次数：
230
1.定义：利用已有样本，产自拟合方程，从而对（未知数据）进行预测。2.用途：预测，合理性判断。3.分类：线性回归分析：一元线性回归，多元线性回归，广义线性（将非线性转化为线性回归，logic回归）非线性回归分析4.困难：变量选取，多重共线性，观察拟合方程，避免过度拟合5.关系：函数关系：确定性关系，...
分类：
其他好文 时间：
2015-01-25 15:02:58
阅读次数：
273
摘要：目前经典的统计学分析方法主要有回归分析，Logistic回归，决策树，支持向量机，聚类分析，关联分析，主成分分析，对应分析，因子分析等，那么对于这些经典的分析方法在R中的使用主要有那些程序包及函数呢？1、线性模型~回归分析：【包】：stats 【函数】：lm(formula, data, .....
分类：
其他好文 时间：
2015-01-23 14:41:06
阅读次数：
407
MLlib支持二分类，多酚类和回归分析的多种方法，具体如下：问题类别 支持方法二分类线性支持向量机， 逻辑回归，决策树，朴素贝叶斯多分类决策树，朴素贝叶斯回归线性最小二乘，Lasso，ridge regression， 决策树线性模型二分类（支持向量机， 逻辑回归）线性回归（最小二乘，Lasso，....
分类：
其他好文 时间：
2015-01-13 15:39:08
阅读次数：
469
数据预处理->数据探索->模型选择->残差检验、共线性争端，强影响点判断->模型修正（否->模型选择，是->模型预测）一：数据预处理二：数据探索看y是否服从正态分布(PP图)proc univariate data=reg.b_fitness; var Runtime -- Performan...
分类：
其他好文 时间：
2014-12-25 16:22:35
阅读次数：
260
决策书既可以用于分类也可以用于回归分析，本文的决策书仅针对与分类一、基本知识1、什么是分类决策树？ 分类决策树模型是一种描述对实例进行分类的树形结构。由结点和有向边组成，结点分为内部结点和叶结点，内部结点表示特征，叶节点表示类，有向边则表示某一个特征的取值2、分类决策树学习算法的过程？（1）特征选....
分类：
其他好文 时间：
2014-12-19 13:03:04
阅读次数：
197
主成份分析历史：
Pearson于1901年提出，再由Hotelling（1933）加以发展的一种多变量统计方法。通过析取主成分显出最大的个别差异，也用来削减回归分析和聚类分析中变量的数目，可以使用样本协方差矩阵或相关系数矩阵作为出发点进行分析。
通过对原始变量进行线性组合，得到优化的指标：把原先多个指标的计算降维为少量几个经过优化指标的计算（占去绝大部分份额）
基本思想：设法将原先众多具有...
分类：
编程语言 时间：
2014-12-15 10:29:54
阅读次数：
290
原文:《BI那点儿事》数据挖掘的主要方法一、回归分析目的：设法找出变量间的依存(数量)关系, 用函数关系式表达出来。所谓回归分析法，是在掌握大量观察数据的基础上，利用数理统计方法建立因变量与自变量之间的回归关系函数表达式（称回归方程式）。回归分析中，当研究的因果关系只涉及因变量和一个自变量时，叫做一...
分类：
其他好文 时间：
2014-12-02 10:19:52
阅读次数：
225
