通常考察一个算法的性能通常用局部搜索能力和全局收敛能力这两个指标。局部搜索是指能够无穷接近最优解的能力，而全局收敛能力是指找到全局最优解所在大致位置的能力。局部搜索能力和全局搜索能力，缺一不可。向最优解的导向，对于任何智能算法的性能都是很重要的。 局部最优问题(或叫局部峰值局部陷井)：现实问题中，f ...
分类：
其他好文 时间：
2018-07-03 14:38:26
阅读次数：
155
一、GridSearchCV介绍： 自动调参，适合小数据集。数据量大可以使用快速调优的方法 坐标下降【贪心，拿当前对模型影响最大的参数调优，直到最优，但可能获得的是全局最优】。 二、参数使用 class sklearn.model_selection.GridSearchCV(estimator, ...
分类：
其他好文 时间：
2018-06-16 13:21:24
阅读次数：
428
已有算法 保持解的可行性 初始可行解 改进步骤 局部最优，全局最优 线性规划：单纯形法 约束：可行区域边界 可行解：可行区域的点 最优解：目标函数最大 有界可行问题求最优解 极点定理：线性规划问题最优解在极点上 标准形式问题： 等式+松弛变量约束 基本可行解：所有分量非负 ...
分类：
其他好文 时间：
2018-06-04 14:28:08
阅读次数：
144
训练网络时，通常先对网络的初始权值按照某种分布进行初始化，如：高斯分布。初始化权值操作对最终网络的性能影响比较大，合适的网络初始权值能够使得损失函数在训练过程中的收敛速度更快，从而获得更好的优化结果。但是按照某类分布随机初始化网络权值时，存在一些不确定因素，并不能保证每一次初始化操作都能使得网络的初 ...
分类：
其他好文 时间：
2018-05-14 19:03:19
阅读次数：
193
整理自： https://blog.csdn.net/woaidapaopao/article/details/77806273?locationnum=9&fps=1 EM算法是用于含有隐变量模型的极大似然估计或者极大后验估计，有两步组成：E步，求期望（expectation）；M步，求极大（ma ...
分类：
其他好文 时间：
2018-05-09 22:42:59
阅读次数：
189
最短路径问题 （给定连接若干城市的公路网，寻找从指定城市到各城市去的最短路线。） 涉及算法： 1.贪心算法（由局部最优解求全局最优解） 贪心算法的基本思路是从问题的某一个初始解出发一步一步地进行，根据某个优化测度，每一步都要确保能获得局部最优解。每一步只考虑一个数据，他的选取应该满足局部优化的条件。 ...
分类：
其他好文 时间：
2018-05-04 10:30:47
阅读次数：
195
机器学习中的算法主要分为两类，一类是监督学习，监督学习顾名思义就是在学习的过程中有人监督，即对于每一个训练样本，有对应的标记指明它的类型。如识别算法的训练集中猫的图片，在训练之前会人工打上标签，告诉电脑这些像素组合在一起，里面包含了一只猫。而自然界中更多的数据样本，事实上是没有这些标记的，而我们针对 ...
分类：
其他好文 时间：
2018-03-24 20:45:05
阅读次数：
214
观点描述来源与博客：http://blog.csdn.net/woaimeinuo/article/details/45651163 贪婪：每一次都选择当前最好的，虽然不是全局最优解，但其可以让你找到局部最优解或是次优解。其实，有次优解也不错了。贪婪算法基本上是一种急功近利的算法，但是并不代表这种算 ...
分类：
编程语言 时间：
2018-03-05 12:06:30
阅读次数：
196
作者：JSong，时间：2017.10.21 本文大量引用了 jasonfreak ( http://www.cnblogs.com/jasonfreak ) 的系列文章，在此进行注明和感谢. 广义的偏差（bias）描述的是预测值和真实值之间的差异，方差（variance）描述距的是预测值作为随机变 ...
分类：
其他好文 时间：
2018-03-04 15:59:14
阅读次数：
218
一.dp 动态规划的本质 是一种思想。通过对原问题划分成子问题，寻找子问题之间的联系，通过求解子问题得出原问题的解。与贪心不同的是，动归是深谋远虑，考虑全局最优解；而贪心则目光短浅，只考虑局部最优解。 子问题 对应 状态 子问题之间的联系 对应 状态转移 边界子问题 对应 边界状态（状态转移的边界） ...
分类：
其他好文 时间：
2018-02-25 20:36:24
阅读次数：
227
