模拟退火 概述:求解最优化问题,example:TSP,函数max/min 一、理论: 算法认识:基于爬山算法(每次朝着当前上升最快的方向爬,但是初始化不同可能会得到不同的局部最优值,模拟退火可能跳出局部最优值) 流程:初始高温 温度降低 终止在低温 本质: 贪心+随机化 二、算法描述: $$\be ...
分类:
其他好文 时间:
2018-08-26 20:06:32
阅读次数:
162
昨晚随便玩玩搞个div3结果浪翻了…… 强烈谴责D题hack数据卡常 考虑到本题中所要求的最短距离不会大于2,所以我们可以把所有结点到$1$的距离通过对$3$取模分类,考虑到直接自顶向下贪心不满足局部最优解可以推出全局最优解,所以我们可以自下向上这样可以考虑到所有条件。我们处理出一个结点$x$所有儿 ...
分类:
其他好文 时间:
2018-08-25 11:24:57
阅读次数:
132
一、什么是模拟退火算法 1、爬山算法 在了解模拟退火算法之前,先来看一下爬山算法:爬山算法是一种贪心算法,该算法每次从当前的解空间中选取一个解作为最优解,直到达到一个局部最优解。假设函数f(x)的图像如下图: 现在使用爬山算法来求f(x)的最大值,若C为当前最优解,则爬山算法搜索到A就会停止搜索,这 ...
分类:
编程语言 时间:
2018-08-05 23:28:48
阅读次数:
317
[toc] 最优化方法 本文只对吴恩达最优化方法中原理部分进行整理,没有代码部分,需要原始代码可以到GitHub上down下来。文尾附链接。 除了使用Gradient Descent更新参数降低成本,还有更多高级优化方法,这些方法可以加快学习速度,甚至可以获得更好的COST函数最终值。 拥有一个好的 ...
分类:
其他好文 时间:
2018-08-04 18:55:55
阅读次数:
237
利用递归算法完成硬币的找零问题,得出找零的最优解 ...
分类:
其他好文 时间:
2018-07-31 23:31:17
阅读次数:
201
贪心算法(greedy algorithm)是指,在每一步都做出当时看起来最佳的选择,也就是局部最优的选择,期望这样的选择能够导向全局最优解。所以并不是所有的问题都能得到全局最优解。 典型的例子如分数背包问题:背包容量为50kg,有三个商品分别是重60元/10kg、100元/20kg、120元/30 ...
分类:
编程语言 时间:
2018-07-31 19:30:56
阅读次数:
194
梯度下降是一个用来求函数最小值的算法,我们将使用梯度下降算法来求出代价函数 J(θ0,θ1) 的最小值。 梯度下降背后的思想是:开始时我们随机选择一个参数的组合(θ0,θ1,...,θn),计算代价 函数,然后我们寻找下一个能让代价函数值下降最多的参数组合。我们持续这么做直到到到 一个局部最小值(l ...
分类:
编程语言 时间:
2018-07-13 01:17:19
阅读次数:
211
通常考察一个算法的性能通常用局部搜索能力和全局收敛能力这两个指标。局部搜索是指能够无穷接近最优解的能力,而全局收敛能力是指找到全局最优解所在大致位置的能力。局部搜索能力和全局搜索能力,缺一不可。向最优解的导向,对于任何智能算法的性能都是很重要的。 局部最优问题(或叫局部峰值局部陷井):现实问题中,f ...
分类:
其他好文 时间:
2018-07-03 14:38:26
阅读次数:
155
一、贪婪算法介绍 算法基本思路:从问题的某一个初始解出发一步一步地进行,根据某个优化测度,每一步都要确保能获得局部最优解。每一步只考虑一个数据,他的选取应该满足局部优化的条件。若下一个数据和部分最优解连在一起不再是可行解时,就不把该数据添加到部分解中,直到把所有数据枚举完,或者不能再添加算法停止。( ...
分类:
编程语言 时间:
2018-06-16 21:48:30
阅读次数:
209
已有算法 保持解的可行性 初始可行解 改进步骤 局部最优,全局最优 线性规划:单纯形法 约束:可行区域边界 可行解:可行区域的点 最优解:目标函数最大 有界可行问题求最优解 极点定理:线性规划问题最优解在极点上 标准形式问题: 等式+松弛变量约束 基本可行解:所有分量非负 ...
分类:
其他好文 时间:
2018-06-04 14:28:08
阅读次数:
144