一．问题：1.Svm是什么2.什么是支持向量3.什么是最优间隔分类法4.最优间隔分类法与最小二乘、最大似然法的比較5.什么是拉格朗日6.什么是对偶7.为什么要做对偶8.什么是KKT条件9.为什么满足KKT条件强对偶成立10.Svm怎样解决非线性问题？神经网络呢？11.什么是核函数12.Svm怎样面对...
分类：
其他好文 时间：
2015-01-11 10:58:19
阅读次数：
715
高斯函数是数学上非常重要的函数，我们熟悉的正态分布的密度函数就是高斯函数，也称高斯分布。而正态分布无疑是概率论与数理统计里最重要的一个分布了。
现在的问题是如果给出一些点集，如何找到一个高斯函数来拟合这些点集呢！
当然，拟合方式还是最小二乘法，拟合函数形式为：
y=a*exp(-((x-b)/c)^2);
一共有三个参数，a、b、c.不过这种指数函数拟合比较难实...
分类：
编程语言 时间：
2015-01-09 17:35:44
阅读次数：
507
理论和公式请看网易公开课中Andrew Ng的机器学习，或者coursera中Andrew Ng的机器学习对于多元线性回归要拟合最好的直线，要使得误差平方和最小，课本上的方法都是求偏导，并使其为0，然后求解线性方程组。但是还有很多其他方法可以达到上述效果，Andrew在大样本和小样本的情况下给出了两...
分类：
其他好文 时间：
2015-01-06 19:59:23
阅读次数：
746
数值分析学习心得：插值法：拉格朗日插值，埃米特插值函数逼近：最小二乘法求积分的算法：牛顿-科斯特公式，龙贝格求积公式，高斯求积公式求线性方程组的迭代法：jacobi迭代法，高斯-赛德尔迭代法求非线性方程的算法：牛顿法求常微分方程初值问题的算法：欧拉法，龙格-库塔法数值分析课程设计 浙江大学 陈越第1...
分类：
其他好文 时间：
2015-01-05 20:25:22
阅读次数：
427
前言 本文将系统的介绍机器学习中监督学习的回归部分，系统的讲解如何利用回归理论知识来预测出一个分类的连续值。 显然，与监督学习中的分类部分相比，它有很鲜明的特点：输出为连续值，而不仅仅是标称类型的分类结果。基本线性回归解决方案 - 最小二乘法 “给出一堆散点，求出其回归方程。" -> 对于这个...
分类：
其他好文 时间：
2015-01-04 22:58:24
阅读次数：
335
转自http://www.36dsj.com/archives/20135Basis(基础)：MSE(Mean Square Error 均方误差)，LMS(LeastMean Square 最小均方)，LSM(Least Square Methods 最小二乘法)，MLE(MaximumLikel...
分类：
其他好文 时间：
2015-01-04 21:19:33
阅读次数：
241
对平面上的一些点拟合有很多手段，其中椭圆拟合在图像轮廓划分等很多方面都很重要，当然，我们一般还是用最小二乘法来拟合椭圆，
在这里，我实现了两种算法，一种是
http://wenku.baidu.com/link?url=7kIrC8LoOMCtlmAH8yqkpUQfiKwWnVe4EoUJekkQSgQ1qTWfLAuEXTYvYTv7SATGIJYX4IxcTIB94-i...
分类：
其他好文 时间：
2014-12-31 18:34:49
阅读次数：
185
（下文内容为转载，不过已经不清楚原创的是哪里了，特此说明）转自：http://www.cnblogs.com/dotLive/archive/2006/10/09/524633.html该网址下面有更多的讨论。最小二乘法(least squares analysis)是一种 数学 优化 技术，它通过...
分类：
其他好文 时间：
2014-12-20 12:54:35
阅读次数：
216
（1）前言（2）最小二乘的推导（3）最小二乘求解线性（4）曲线拟合的应用------------------qq：1327706646-------------------------author：midu--------------------------------datetime：2014-1...
分类：
其他好文 时间：
2014-12-10 21:11:19
阅读次数：
279
http://www.zhihu.com/question/20822481知乎用户，非文, 非理Spirit_Dongdong、Wildog、mt Practices等人赞同同意@张子权的说法, 稍微再补充一下. 看问题估计, 题主可能是在学 machine learning 的东西, 所以才会有...
分类：
其他好文 时间：
2014-12-10 21:06:04
阅读次数：
331
