课程3课程3
大纲
多元线性回归的最小二乘解
1几何解释
2广义逆的奇异性
3无偏估计
岭回归
1几何意义
2岭回归的性质
3的选择原则
4用岭回归选择变量
5岭回归存在的问题
6通过R演练
LASSO
1LASSO vs 岭回归
11弹性网
2求解过程LAR算法
1.大纲
扔给你一堆数据，可能有成百上千各变量,怎样变量选择，怎样排除多重共线性问题：
要么丰厚的业务知识丰富，根据经验来选择；
要么...
分类：
其他好文 时间：
2015-06-26 11:05:23
阅读次数：
231
一个人提议引起这虾子(153193053) 10:05:01
想写个工具类来实现线程池的自动调优，大概就是采集一些相关指标，然后利用线性回归来预测最优设置，你们觉得这个靠谱不。和木的建议1、收集数据；
2、数据建模；
3、用R语言快速验证，得出回归模型
4、用Weka的包引入到监控程序线性回归到不复杂，不过要收集原始数据，维度比较多；有些是分类变量或者多余参数，就涉及到哑变量和多重共线性的...
分类：
编程语言 时间：
2015-06-26 11:04:03
阅读次数：
189
这节课讲的是线性回归。与其他课程的线性回归相比，这门课要更加理论。通过说明线性回归误差是二分类误差的上界，来证明线性回归可以用于二元分类。参考：http://www.douban.com/note/323611077/
分类：
其他好文 时间：
2015-06-25 19:21:09
阅读次数：
160
logistic 回归1.问题：在上面讨论回归问题时，讨论的结果都是连续类型，但如果要求做分类呢？即讨论结果为离散型的值。2.解答：
假设：
其中：
g(z)g(z)的图形如下：
由此可知：当hθ(x)h_\theta(x)<0.5时我们可以认为为0，反之为1，这样就变成离散型的数据了。
推导迭代式：利用概率论进行推导，找出样本服从的分布类型，利用最大似然法求出相应的θ\theta因此：...
分类：
其他好文 时间：
2015-06-21 09:24:34
阅读次数：
137
深度神经网络结构以及Pre-Training的理解Logistic回归、传统多层神经网络1.1 线性回归、线性神经网络、Logistic/Softmax回归线性回归是用于数据拟合的常规手段，其任务是优化目标函数：h(θ)=θ+θ1x1+θ2x2+....θnxn线性回归的求解法通常为两种：①解优化多...
分类：
其他好文 时间：
2015-06-19 18:29:17
阅读次数：
227
线性回归诊断--R【转载时请注明来源】：http://www.cnblogs.com/runner-ljt/ Ljt 勿忘初心 无畏未来 作为一个初学者，水平有限，欢迎交流指正。 R--线性回归诊断（一）主要介绍了线性回归诊断的主要内容和基本方法。 本文作为R中线性回归诊断的进一步延伸，将主要介绍....
分类：
其他好文 时间：
2015-06-17 21:28:30
阅读次数：
1227
多元线性回归模型： y = b1x1 + b2x2 + b3x3 +...... +bnxn;我们根据一组数据： 类似 arr_x = [[1, 2, 3, 4, 5], [6, 7, 8, 9, 10], [11, 12, 13, 14, 15]]; arr_y = [5, 10, 15]; 我们...
分类：
Web程序 时间：
2015-06-15 15:59:06
阅读次数：
124
1.梯度下降1.1批梯度下降eg1：用梯度下降法确定h(x)=x^2-t*x-t中参数t的值注意迭代因子的选择很重要QAQ，如果程序结果成了发散的就要看看是不是迭代因子选的不好。【最后那个-0.01是无意中试出来的QwQ 1 def hypo(t,x): #precise answ...
分类：
编程语言 时间：
2015-06-11 22:29:39
阅读次数：
145
线性回归容易出现过拟合或欠拟合的问题。局部加权线性回归是一种非参数学习方法，在对新样本进行预测时，会根据新的权值，重新训练样本数据得到新的参数值，每一次预测的参数值是不相同的。权值函数：t用来控制权值的变化速率（建议对于不同的样本，先通过调整t值确定合适的t）不同t值下的权值函数图像：局部加权线性回...
分类：
其他好文 时间：
2015-06-07 18:41:19
阅读次数：
4194
