我发现，想要了解一个领域的比较快速的方法就是去读本领域近几年的硕士和博士毕业论文(中文的就行)！拉格朗日对偶今天学习了拉格朗日对偶。我们首先考虑下面这个问题：我们记
(这里如果是一个向量的话，那么相应的也是一个向量)，则上述最优化问题可以等价于问题：于是我们现在似乎可以开始求解问题了，最通常的求解过...
分类：
其他好文 时间：
2014-05-09 19:27:28
阅读次数：
3028
在之前为了寻找最有分类器，我们提出了如下优化问题：
在这里我们可以把约束条件改写成如下：
首先我们看下面的图示：
很显然我们可以看出实线是最大间隔超平面，假设×号的是正例，圆圈的是负例。在虚线上的点和在实线上面的两个一共这三个点称作支持向量。现在我们结合KKT条件分析下这个图。
我们从式子和式子可以看出如果那么，
这个也就说明时，w处于可行域的边界上，这时才是起作用的约束...
分类：
其他好文 时间：
2014-05-09 02:33:02
阅读次数：
345
简介：
1、在之前我们把要寻找最优的分割超平面的问题转化为带有一系列不等式约束的优化问题。这个最优化问题被称作原问题。我们不会直接解它，而是把它转化为对偶问题进行解决。
2、为了使问题变得易于处理，我们的方法是把目标函数和约束全部融入一个新的函数，为了使问题变得易于处理，我们的方法是把目标函数和约束全部融入一个新的函数，即拉格朗日函数，再通过这个函数来寻找最优点。即拉格朗日函数，再通过这个函数...
分类：
其他好文 时间：
2014-05-07 22:40:35
阅读次数：
331
这一章我们介绍凸优化的基本概念和极大极小理论，并探讨最优解的存在性问题。
考虑如下形式的优化问题\begin{align*} \min_{\boldsymbol{x}} & \ f(\boldsymbol{x}) \\
\mbox{s.t.} & \ \boldsymbol{x} \in X....
分类：
其他好文 时间：
2014-05-07 11:09:43
阅读次数：
406
1. IS NULL 与 IS NOT NULL
不能用null作索引，任何包含null值的列都将不会被包含在索引中。即使索引有多列这样的情况下，只要这些列中有一列含有null，该列就会从索引中排除。也就是说如果某列存在空值，即使对该列建索引也不会提高性能。
任何在where子句中使用is null或is not null的语句优化器是不允许使用索引的。
2. 避免使用不兼容的数据类型。...
分类：
其他好文 时间：
2014-05-03 21:15:26
阅读次数：
264
梯度下降法是求解无约束最优化问题的一种常用方法。实现简单，代码如下。 1 # -*-
coding: utf8 -*- 2 3 delta = 0.00001 4 5 # f = x^2 + y^2 6 my_function = lambda
point : point[0] ** 2 + p.....
分类：
其他好文 时间：
2014-05-01 03:14:54
阅读次数：
267
