这一节开始讲基础的Linear Regression算法。（1）Linear Regression的假设空间变成了实数域（2）Linear Regression的目标是找到使得残差更小的分割线（超平面）下面进入核心环节：Linear Regression的优化目标是minimize Ein(W)为了...
分类：
其他好文 时间：
2015-06-24 22:15:16
阅读次数：
373
本文记录x264的 x264_slice_write()函数中调用的x264_macroblock_encode()的源代码。x264_macroblock_encode()对应着x264中的宏块编码模块。宏块编码模块主要完成了DCT变换和量化两个步骤。函数调用关系图宏块编码（Encode）部分的源代码在整个x264中的位置如下图所示。单击查看更清晰的图片宏块编码（Encode）部分的函数调用关系...
分类：
Web程序 时间：
2015-05-24 14:16:53
阅读次数：
218
8.4 异常观测值8.4.1 离群点car包也提供了一种离群点的统计检验方法。outlierTest()函数可以求得最大标准化残差绝对值Bonferroni调整后的p值：> library(car)> outlierTest(fit)rstudent unadjusted p-value Bonfe...
分类：
其他好文 时间：
2015-04-25 00:12:14
阅读次数：
281
8.3回归诊断> fit par(mfrow=c(2,2))> plot(fit)为理解这些图形，我们来回顾一下oLs回归的统计假设。口正态性当预测变量值固定时，因变量成正态分布，则残差值也应该是一个均值为0的正态分布。正态Q-Q图(Normal Q-Q，右上)是在正态分布对应的值下，标准化残差的概...
分类：
其他好文 时间：
2015-04-24 13:52:01
阅读次数：
289
上一篇中我们讲到了GBDT算法的第一个版本，是基于残差的学习思路。今天来说第二个版本，可以说这个版本的比较复杂，涉及到一些推导和矩阵论知识。但是，我们今天可以看到，两个版本之间的联系，这个是学习算法的一个重要步骤。这篇博文主要从下面这几个方面来说基于梯度的GBDT算法：
（1）算法的基本步骤；
（2）其中的学数学推导；
（3）基于梯度的版本和基于残差的版本之间的联系；在讲解算法的详细步骤之前，...
分类：
编程语言 时间：
2015-03-31 18:15:53
阅读次数：
2069
开博第二篇依旧回顾下数据分析涉及到的统计学中最基本的概念，包含了以下几个概念：期望，方差，标准差，离差，残差，协方差。0 离散性随机变量，连续性随机变量随机变量（random variable）表示随机试验各种结果的实值单值函数。例如某一时间内公共汽车站等车乘客人数，每次投掷骰子出现的点数等，都是随...
分类：
其他好文 时间：
2015-03-30 21:06:49
阅读次数：
1823
GBDT算法有两种描述思路，一个是基于残差的版本，一个是基于梯度gradient的版本。这篇我们先说说基于残差的版本。前面一篇博文已经说了该版本的大致原理，请参考。
http://blog.csdn.net/puqutogether/article/details/41957089这篇我们再总结一个几个注意点：
这个版本的核心思路：每个回归树学习前面树的残差，并且用shrinkage把学习到的结果...
分类：
编程语言 时间：
2015-03-30 18:55:08
阅读次数：
309
卡尔曼用到了5个公式.我先把笔记内容列举下，自己其实已经绕晕在厕所....这就是卡尔曼最基本的5个公式看了很多感觉卡尔曼是线性滤波器这句话很重要。他其实就是将真实值和估计值之间的残差计算进去，而这个残差是有不确定度的并且会不断变化其中涉及到很多协方差矩阵，大家可以先看看这个http://v.youk...
分类：
其他好文 时间：
2015-02-07 00:32:02
阅读次数：
353
main idea:用adaboost类似的方法，选出g，然后选出步长 Gredient Boosting for regression： h控制方向，eta控制步长，需要对h的大小进行限制 对(x,残差)解regression，得到h 对(g(x),残差)解regression，得到eta
分类：
其他好文 时间：
2015-02-03 00:27:33
阅读次数：
395
线性回归自动分析ByToby:ＱＱ：231469242欢迎共同爱好者交流，并改进代码。本人用Python代码写出线性回归自动分析程序，秒杀。程序包含残差函数，用于检测输入错误数据。还包含r函数，可以把其它函数转换成一元线性。此程序还可以用numpy改进，提高算法优越性。简介：线性回归可以对大数据进行...
分类：
其他好文 时间：
2015-01-19 22:19:27
阅读次数：
337
