1 为什么随机梯度下降法能work? https://www.zhihu.com/question/27012077中回答者李文哲的解释 2 随机梯度下降法的好处? (1)加快训练速度(2)噪音可以使得跳出局部最优 3 权衡方差和偏差: 偏差反映的是模型的准确度(对训练数据的吻合程度),方差则反映模 ...
分类:
其他好文 时间:
2016-12-19 08:48:18
阅读次数:
173
原文地址:http://ghx0x0.github.io/2014/12/30/NDT-match/ By GH 发表于 12月 30 2014 目前三维配准中用的较多的是ICP迭代算法,需要提供一个较好的初值,同时由于算法本身缺陷,最终迭代结果可能会陷入局部最优。本文介绍的是另一种比较好的配准算法 ...
分类:
编程语言 时间:
2016-12-03 21:32:16
阅读次数:
731
贪心法又称贪婪法, 在对问题求解时,总是做出在当前看来是最好的选择,或者说是:总是作出在当前看来最好的选择。也就是说贪心算法并不从整体最优考虑,它所作出的选择只是在某种意义上的局部最优选择。
分类:
其他好文 时间:
2016-12-02 19:31:35
阅读次数:
211
拉格朗日乘子法最小值转化为对偶函数最大值问题在SVM部分有很重要的作用,今天详细听了邹博老师凸优化课程关于这部分的讲解,做一个小小的总结。 一、知识铺垫 1. 保凸算子 凸函数的非负加权和 : 凸函数与仿射函数的复合: 凸函数的逐点最大值、逐点上确界: 第一个和第二个直接使用定义还是挺简单的,因为后 ...
分类:
其他好文 时间:
2016-11-19 03:29:37
阅读次数:
238
混合高斯模型简介 混合高斯模型基于多变量正态分布。类gmdistribution通过使用EM算法来拟合数据,它基于各观测量计算各成分密度的后验概率。 高斯混合模型常用于聚类,通过选择成分最大化后验概率来完成聚类。与k-means聚类相似,高斯混合模型也使用迭代算法计算,最终收敛到局部最优。高斯混合模 ...
分类:
其他好文 时间:
2016-11-15 17:14:27
阅读次数:
396
优化算法入门系列文章目录(更新中): 1. 模拟退火算法 2. 遗传算法 一. 爬山算法 ( Hill Climbing ) 介绍模拟退火前,先介绍爬山算法。爬山算法是一种简单的贪心搜索算法,该算法每次从当前解的临近解空间中选择一个最优解作为当前解,直到达到一个局部最优解。 爬山算法实现很简单,其主 ...
分类:
编程语言 时间:
2016-10-06 00:32:50
阅读次数:
150
概念储备: (The least square method)和(least square error) 狭义的最小二乘方法,是线性假设下的一种有闭式解的参数求解方法,最终结果为全局最优; 梯度下降法,是假设条件更为广泛(无约束)的,一种通过迭代更新来逐步进行的参数优化方法,最终结果为局部最优; 广 ...
分类:
其他好文 时间:
2016-09-17 19:15:14
阅读次数:
140
HuffManTree,又称为最优二叉树,是加权路径最短的二叉树。
使用贪心算法来构建哈夫曼树。贪心算法:是指在问题求解时,总是做出当前看起来最好的选择。也就是说贪心算法做出的不是整体最优解,而是某种意义上的局部最优解。贪心算法不是对所有的问题都能得到最优解。
如下图哈..
分类:
其他好文 时间:
2016-08-02 11:48:50
阅读次数:
250
1. 贪心算法的基本原理: 贪心算法总是作出在当前看来最好的选择。也就是说贪心算法并不从整体最优考虑,它所作出的选择只是在某种意义上的局部最优选择。当然,希望贪心算法得到的最终结果也是整体最优的。虽然贪心算法不能对所有问题都得到整体最优解,但对许多问题它能产生整体最优解。如单源最短路经问题,最小生成... ...
分类:
编程语言 时间:
2016-07-23 15:00:37
阅读次数:
200
转载地址:http://blog.csdn.net/liuxucoder
目录(?)[+]
等待了一年时间,这个系列的坑终于又开始填了……
不说废话,直接开始正题。
1.何为贪心?
贪心算法实际上指的是把问题划分成一个一个的子问题,然后针对当前的子问题,求出局部最优解,然后将子问题的最优解合并,最终获得总问题的最优解。
值得注意的是,在...
分类:
其他好文 时间:
2016-07-19 10:37:57
阅读次数:
123