刚开始接触，先看《机器学习》周老师这本书，开始有点乱，最后清楚之后再进行整理 1.拉格朗日乘子（Lagrangemultiplier） 假设需要求极值的目标函数(objectivefunction)为f(x,y)，限制条件为φ(x,y)=M 设 定义一个新函数 则用偏导数方法列出方程： 、 、 求出 ...
分类：
其他好文 时间：
2017-06-10 19:21:23
阅读次数：
138
“牛顿下降法和梯度下降法在机器学习和自适应滤波中都很重要，本质上是为了寻找极值点的位置。但是收敛的速度不同。 本文中就两种方法来探究一下，哪种收敛方法速度快“ 牛顿下降法的递推公式： xn+1=xn?f′(xn)/f′′(xn) 梯度下降算法的递推公式： xn+1=xn?μ?f′(xn) 解释一 下 ...
分类：
其他好文 时间：
2017-06-04 09:49:44
阅读次数：
183
P1543极值问题 Accepted 标签：[显示标签] 背景 小铭的数学之旅2。 描写叙述 已知m、n为整数，且满足下列两个条件： ① m、n∈1，2。…，K ② (n^ 2－mn－m^2)^2＝1 编一程序。对给定K，求一组满足上述两个条件的m、n，而且使m^2＋n^2的值最大。比如，若K＝19 ...
分类：
编程语言 时间：
2017-05-31 10:25:23
阅读次数：
226
思路： 选择排序每次迭代都在寻找剩下的数组元素中的最小值（最大值），依次拿数组中的一个元素和剩下的元素进行比较。然后把该极值移动到数组的另一边。 原始数组： 5 9 4 6 7 3 2 一次迭代： 2 9 4 6 7 3 5 2 3 4 6 7 9 5 2 3 4 6 7 9 5 2 3 4 5 7 ...
分类：
编程语言 时间：
2017-05-30 21:54:31
阅读次数：
169
//d3.scan /* 新的d3.scan方法对数组进行线性扫描，并根据指定的比较函数返回至少一个元素的索引。 这个方法有点类似于d3.min和d3.max。 而d3.scan可以得到极值的索引而不仅仅是计算极值。 */ var a1 = [1,3,5,2,9]; var i = d3.scan(... ...
分类：
Web程序 时间：
2017-05-22 01:26:57
阅读次数：
1073
上一次我们使用遗传算法求解了一个较为复杂的多元非线性函数的极值问题，也基本了解了遗传算法的实现基本步骤。这一次，我再以经典的TSP问题为例，更加深入地说明遗传算法中选择、交叉、变异等核心步骤的实现。而且这一次解决的是离散型问题，上一次解决的是连续型问题，刚好形成对照。 首先介绍一下TSP问题。TSP ...
分类：
编程语言 时间：
2017-05-14 18:57:17
阅读次数：
219
以前搞数学建模的时候，研究过(其实也不算是研究，只是大概了解)一些人工智能算法，比如前面已经说过的粒子群算法(PSO),还有著名的遗传算法(GA),模拟退火算法(SA),蚁群算法(ACA）等。当时懂得非常浅，只会copy别人的代码(一般是MATLAB),改一改值和参数，东拼西凑就拿过来用了，根本没有 ...
分类：
编程语言 时间：
2017-05-14 18:52:15
阅读次数：
266
梯度下降法在凸优化中应用很广泛。经常使用于求凸函数极值。梯度是个向量。其形式为 一般是表示函数上升最快的方向。因此。我们仅仅须要每一步往梯度方向走一小步。终于就能够到达极值点，其表现形式为： 初始点为x0。 然后往梯度的反方向移动一小步r到x1。 再次往梯度反方向移动r到x2，... ...。终于会 ...
分类：
其他好文 时间：
2017-04-27 23:20:51
阅读次数：
433
题目：Best Time to Buy and Sell Stock 给定一个数组，数组中一个元素表示一天的股价，求一次交易能得到的最大收益。 思路： 数组可能是多个升序降序组成，只要能找到一组极值，使它们的差最大就可以了。 这样实际上就是每当找到一个极大值，就判断此时的到的差值是否比记录的最大值大 ...
分类：
其他好文 时间：
2017-04-27 22:08:46
阅读次数：
190
拉格朗日乘数法（Lagrange multiplier）有很直观的几何意义。举个2维的例子来说明：假设有自变量x和y，给定约束条件g(x,y)=c，要求f(x,y)在约束g下的极值。 我们可以画出f的等高线图，如下图。此时，约束g=c由于只有一个自由度，因此也是图中的一条曲线（红色曲线所示）。显然地 ...
分类：
其他好文 时间：
2017-04-25 10:00:50
阅读次数：
657
