从算子的角度来解释一阶算法，令为一个算子，我们求解问题：找到 使得 满足，对应于最优化问题，我们可以令, 这样问题就等价于求解，那么怎么找到这样的呢。 我们寻找一种迭代策略，即找到一种算子F，已知 , 令 这种F满足当 有。于是我们只要寻找满足这种条件的算子即可。接下来介绍几个算法 Forward ...
分类：
编程语言 时间：
2018-05-04 18:20:17
阅读次数：
251
梯度下降法（gradient descent），又名最速下降法（steepest descent）是求解无约束最优化问题最常用的方法，它是一种迭代方法，每一步主要的操作是求解目标函数的梯度向量，将当前位置的负梯度方向作为搜索方向（因为在该方向上目标函数下降最快，这也是最速下降法名称的由来）。梯度下降 ...
分类：
编程语言 时间：
2018-05-04 14:05:31
阅读次数：
233
来源：http://www.hankcs.com/ml/support-vector-machine.html 一、概述 支持向量机（support vector machines，SVM)是一种二类分类模型。 支持向量机的学习算法是求解凸二次规划的最优化算法。 分类： 线性可分支持向量机（line ...
分类：
其他好文 时间：
2018-04-30 12:01:19
阅读次数：
237
https://blog.csdn.net/xianlingmao/article/details/7919597 在求取有约束条件的优化问题时，拉格朗日乘子法（Lagrange Multiplier) 和KKT条件是非常重要的两个求取方法，对于等式约束的优化问题，可以应用拉格朗日乘子法去求取最优值 ...
分类：
其他好文 时间：
2018-04-18 21:15:28
阅读次数：
185
题目传送门 分析：数据范围并不大，也不难想到是贪心。因为钓鱼和移动的时间都是5的倍数，而且给定的h以小时为单位，所以在输入的时候可以直接将h乘以12，然后每次钓鱼花费的时间就是1，移动花费的时间就是t[i]。但是因为题目中给定了多个湖泊，而且每次钓鱼后鱼的数量会减少，因此还要考虑最优化策略。当然这里 ...
分类：
其他好文 时间：
2018-04-13 13:21:14
阅读次数：
155
感知器（PLA——Perceptron Learning Algorithm），也叫感知机，处理的是机器学习中的分类问题，通过学习得到感知器模型来对新实例进行预测，因此属于判别模型。感知器于1957年提出，是神经网络的基础。 ...
分类：
其他好文 时间：
2018-04-04 00:02:48
阅读次数：
302
牛顿法、拟牛顿法 https://blog.csdn.net/jinshengtao/article/details/51615162 Levenberg–Marquardt算法 https://blog.csdn.net/jinshengtao/article/details/53310804 ...
分类：
其他好文 时间：
2018-04-03 17:15:10
阅读次数：
168
来自：某小皮 最优化函数库Optimization 优化是找到最小值或等式的数值解的问题。scipy.optimization子模块提供函数最小值，曲线拟合和寻找等式的跟的有用算法。 最小二乘拟合 假设有一组实验数据（xi, yi），事先知道它们之间应该满足某函数关系yi = f(xi)，通过这些已 ...
分类：
其他好文 时间：
2018-04-02 10:08:40
阅读次数：
177
tensorflow性能调优实践 https://www.jianshu.com/p/937a0ce99f56 2018.04.01 Deep Learning 之 最优化方法 https://blog.csdn.net/bvl10101111/article/details/72615621 20 ...
分类：
其他好文 时间：
2018-04-01 11:50:36
阅读次数：
128
