之前做特征选择，实现过基于群智能算法进行最优化的搜索，看过一些群智能优化算法的论文，在此做一下总结。 在生活或者工作中存在各种各样的最优化问题，比如每个企业和个人都要考虑的一个问题“在一定成本下，如何使利润最大化”等。最优化方法是一种数学方法，它是研究在给定约束之下如何寻求某些因素(的量)，以使某一... ...
分类：
编程语言 时间：
2019-12-12 00:58:29
阅读次数：
120
梯度下降：实现梯度下降、线性回归中的梯度下降 随机梯度下降：相关代码即调用 本文参考：公众号《数据科学家联盟》文章 转自：https://www.cnblogs.com/huangyc/p/9801261.html#_label1_0 一、概念 梯度下降(Gradient Descent, GD)不 ...
分类：
其他好文 时间：
2019-12-08 12:49:36
阅读次数：
116
结交朋友很开心。 无意间进了旁边的宿舍，和不算熟悉的朋友聊了两句，找到了可以让我安心学习的教研室。知道了如何使用校园网。也知道了旁边的人对最优化很了解，可以帮助我复习最优化。真真切切的感觉到不能一个人闷着学，要多交流，多探讨。多帮助他人，不要有嫉妒心理。这样才能更快的成功。同时，也知道了不要怕开始， ...
分类：
其他好文 时间：
2019-11-28 13:01:23
阅读次数：
84
逻辑回归 sigmoid函数=$\sigma(x)=\frac{1}{1+e^{ x}}=\frac{e^{x}}{1+e^{x}}$ 二项逻辑回归模型 有如下条件概率分布，$w$内已经包含了偏置$b$： $$P(Y=1|x)=\frac{\exp(w\cdot x)}{1+\exp(w\cdot ...
分类：
其他好文 时间：
2019-11-24 15:30:55
阅读次数：
75
计算机网络 网络层 路由算法 最优化原则 1.最佳路径的每一部分也是最佳路径 如果路由器J在从路由器I到K的最优路径上，那么从J到K的最优路径必定沿着同样的路由路径 2.通往路由器的所有最佳路径的并集是一棵称为汇集树 3.路由算法的目的 为所有路由器找出并使用汇集树 最短路径路由 Dijkstra算 ...
分类：
编程语言 时间：
2019-11-19 17:10:40
阅读次数：
153
1、The first step is download tw folders, one comes from Another 64-bit Windows DLLs, built with MinGW, which comes from 2、 Then cd into the folder wit ...
P5653 题目大意： 一个x初值为0，每次可以给x加上值y，y∈[-k,k]，同时必须保证第i次操作后 xi≤ai。需要进行n次操作。 有一个长度为n的序列 w，wi∈[-106,106]。 设第i次操作后x的值为bi，要求最大化Σni=1biwi。输出最大值。 数据范围：n≤106, ?106≤ ...
分类：
其他好文 时间：
2019-11-15 12:19:17
阅读次数：
56
算法特征:利用函数$f(\vec{x})$的1阶信息, 构造其近似的二阶Hessian矩阵. 结合Armijo Rule, 在最优化过程中达到超线性收敛的目的. 算法推导:为书写方便, 引入如下两个符号$B$、$D$分别表示近似Hessian矩阵及其逆矩阵:\begin{equation}\labe ...
分类：
编程语言 时间：
2019-11-10 19:50:45
阅读次数：
166
一、基本思想 与分治法相似，基本思想，将求解问题分解成若干个子问题，先求解子问题，然后从这些子问题的解得到原问题的解。 但是它们也有很大的不同之处，即适用于用动态规划法求解的问题，经分解得到的子问题往往不是互相独立的。 二、设计步骤 动态规划法适用于最优化问题，通常可按以下4个步骤设计： 1）找出最 ...
分类：
编程语言 时间：
2019-11-04 13:11:10
阅读次数：
90
一、动态规划 动态规划的实质是分治法和解决冗余。所以，动态规划就是将原问题分解成规模更小的子问题，且原问题的最优解与子问题的最优解相关。动态规划将问题实例分解为更小的/相似的子问题，并存储子问题的解，使得每个子问题只求解一次，最终获得原问题的答案，以解决最优化问题。 二、编程 1、单调递增最长子序列 ...
分类：
其他好文 时间：
2019-11-03 15:05:01
阅读次数：
84
