坐标上升算法 参考资料: 优化算法——坐标上升法 http://blog.csdn.net/google19890102/article/details/51065297 http://blog.csdn.net/nupt123456789/article/details/8349488 SMO 算 ...
分类:
其他好文 时间:
2018-03-21 11:39:49
阅读次数:
187
linux服务器宕机分析/性能瓶颈分析 服务器宕机原因很多,资源不足、应用、硬件、系统内核bug等,以下一个小例子 服务器宕机了,首先得知道服务器宕机的时间点,然后分析日志查找原因 1.last reboot 此命令可以查看主机起来的时间,不是宕机的时间 reboot system boot 2.4 ...
分类:
系统相关 时间:
2018-03-18 13:52:48
阅读次数:
241
指数加权平均 在深度学习优化算法中,例如Momentum、RMSprop、Adam,都提到了一个概念,指数加权平均,看了Andrew Ng的深度学习课程后,总结一下什么是指数加权平均。 式中v_t可近似代表1/(1-β)个θ的平均值。 偏差修正 由以上证明可以看出,每个最新数据值,依赖于以前的数据结 ...
分类:
其他好文 时间:
2018-03-11 19:11:01
阅读次数:
255
在机器学习、深度学习中使用的优化算法除了常见的梯度下降,还有 Adadelta,Adagrad,RMSProp 等几种优化器,都是什么呢,又该怎么选择呢? 在 Sebastian Ruder 的这篇论文中给出了常用优化器的比较,今天来学习一下:https://arxiv.org/pdf/1609.0 ...
分类:
其他好文 时间:
2018-03-11 02:40:24
阅读次数:
701
support vector machines,SVM是二类分类模型。定义在特征空间上间隔最大的线性分类器,由于包括核技巧实质上成为非线性分类器。学习策略是间隔最大化,可形式化为求解凸二次规划问题(convex quadratic programming)。求解算法是求解凸二次规划的最优化算法。 S ...
分类:
其他好文 时间:
2018-03-08 15:56:02
阅读次数:
513
1. 不总是所有题都需要优化算法来解决的,有的题目用 Naive 的方式就能够解决,比如 Brute Force。之前遇到过。 2. 如果一个题的题目意思不明确,最好选择先做后面的题,从排名的角度上来讲收益更大。不要跟自己较劲。 3. 有的 Hard 题并不一定有很大的代码量,可能只是想没想到的问题 ...
分类:
其他好文 时间:
2018-03-04 16:35:25
阅读次数:
167
Happy New Year! 新年伊始,我们都会在祝福他人之余,为自己暗暗定下几个小目标。那就从现在开始努力吧,跑得更快一点,才会让时间显得慢一些~ 今天的内容是 【经典优化算法】 场景描述 针对我们遇到的各类优化问题,研究者们提出了多种有各自适用场景的求解算法,并逐渐发展出了有严格理论支撑的研究 ...
分类:
编程语言 时间:
2018-02-27 21:14:25
阅读次数:
238
需求为(自己编的,非实际项目): 某配送中心进行揽货,目标客户数为50个客户,配送中心目前的运力资源如下: 问:运力怎样走法才能以最低的成本完成针对这50个客户的揽货行为 是个最优化问题(运筹学),我们只考虑简化后的模型,不考虑路面交通、时间窗口这些复杂计算,用蚁群优化算法来实现接近最优解的计算。 ...
分类:
编程语言 时间:
2018-02-25 11:26:48
阅读次数:
189
Optimization algorithms 优化算法以加速训练。 Mini batch gradient descend Batch gradient descend:每一小步梯度下降否需要计算所有的训练样本。很耗时。 Mini batch gradient descend:将训练集分为很多小的 ...
分类:
其他好文 时间:
2018-02-18 13:25:56
阅读次数:
217
算法学习自:MATLAB与机器学习教学视频 1、粒子群优化算法概述 粒子群优化(PSO, particle swarm optimization)算法是计算智能领域,除了蚁群算法,鱼群算法之外的一种群体智能的优化算法,该算法最早由Kennedy和Eberhart在1995年提出的,该算法源自对鸟类捕 ...
分类:
编程语言 时间:
2018-02-14 15:35:44
阅读次数:
314