贪心算法一、基本概念： 所谓贪心算法是指，在对问题求解时，总是做出在当前看来是最好的选择。也就是说，不从整体最优上加以考虑，他所做出的仅是在某种意义上的局部最优解。 贪心算法没有固定的算法框架，算法设计的关键是贪心策略的选择。必须注意的是，贪心算法不是对所有问题都能得到整体最优解，选择的贪心策略必须...
分类：
其他好文 时间：
2014-07-31 20:42:07
阅读次数：
228
关于什么是梯度下降，请看我之前发的一个博文：http://blog.csdn.net/lilyth_lilyth/article/details/8973972
梯度下降能帮助我们找到局部最优值，取得很小的损失，但是在数据量达到数十万时，迭代次数高，运算速度慢，十分不适合。这时候可以考虑使用随机梯度下降算法。
所谓随机梯度下降是 每次用 每个样本的损失函数（即样本数为1时的损失函数）对th...
分类：
其他好文 时间：
2014-07-23 13:39:56
阅读次数：
256
贪心算法的设计思想 贪心算法在解决这个问题的策略上目光短浅，仅仅依据当前已有的信息就做出选择，并且一旦做出了选择，无论将来有什么结果，这个选择都不会改变。换言之，贪心法并非从总体最优考虑，它所做出的选择仅仅是在某种意义上的局部最优。贪心算法对于大部分的优化问题都能产生最优解，但不能总获得总体最...
分类：
其他好文 时间：
2014-07-19 00:24:13
阅读次数：
211
在聚类中我们经经常使用到EM算法（i.e. Estimation - Maximization）进行參数预计, 在该算法中我们通过函数的凹/凸性，在estimation和maximization两步中迭代地进行參数预计，并保证能够算法收敛，达到局部最优解。PS：为了不在11.11这个吉祥的日子发bl...
分类：
其他好文 时间：
2014-07-16 18:09:11
阅读次数：
218
这题 的确是个好题~ 当时 只觉得应该用贪心做...后来 人家给我证明了下 不应该是用贪心 局部最优解 与 全局最优解之间的关系不是严格成立的~ touch me慢慢 静心下来 总是有解决的方法的=-= 1 #include 2 #include 3 #include 4 using name...
分类：
其他好文 时间：
2014-07-14 20:13:57
阅读次数：
245
在聚类中我们经经常使用到EM算法（i.e. Estimation - Maximization）进行參数预计, 在该算法中我们通过函数的凹/凸性，在estimation和maximization两步中迭代地进行參数预计，并保证能够算法收敛，达到局部最优解。PS：为了不在11.11这个吉祥的日子发bl...
分类：
其他好文 时间：
2014-07-14 15:28:42
阅读次数：
164
之前我们介绍了用动态规划的方法来解决一些最优化的问题。但对于有些最优化问题来说，用动态规划就是“高射炮打蚊子”，采用一些更加简单有效的方法就可以解决。贪心算法就是其中之一。贪心算法是使所做的选择看起来是当前最佳的，期望通过所做的局部最优选择来产生一个全局最优解。...
分类：
其他好文 时间：
2014-07-13 18:06:01
阅读次数：
377
优化算法入门系列文章目录（更新中）： 1.模拟退火算法 2.遗传算法一. 爬山算法 ( Hill Climbing ) 介绍模拟退火前，先介绍爬山算法。爬山算法是一种简单的贪心搜索算法，该算法每次从当前解的临近解空间中选择一个最优解作为当前解，直到达到一个局部最优解。 爬山算法实现很简单，其主要.....
分类：
其他好文 时间：
2014-07-10 10:54:28
阅读次数：
288
在聚类中我们经经常使用到EM算法（i.e. Estimation - Maximization）进行參数预计, 在该算法中我们通过函数的凹/凸性，在estimation和maximization两步中迭代地进行參数预计，并保证能够算法收敛，达到局部最优解。PS：为了不在11.11这个吉祥的日子发bl...
分类：
其他好文 时间：
2014-07-02 09:56:51
阅读次数：
234
爬山法是一种局部搜索算法，也属一种启发式方法。但它一般只能得到局部最优，并且这种解还依赖于起始点的选取。现在有各种版本的爬山法，下面给出的是一种简单迭代爬山法。开始时，当前解的所有可能邻域都被考虑，并且将且有最好评估值eval_r(vn)的串vn与当前串vc作比较。如果eval_r(vc)比eval...
分类：
其他好文 时间：
2014-06-23 06:44:17
阅读次数：
507
