首先是转载,觉得写得真好一. 爬山算法 ( Hill Climbing ) 介绍模拟退火前，先介绍爬山算法。爬山算法是一种简单的贪心搜索算法，该算法每次从当前解的临近解空间中选择一个最优解作为当前解，直到达到一个局部最优解。 爬山算法实现很简单，其主要缺点是会陷入局部最优解，而不一定能搜索到全局最优...
分类：
编程语言 时间：
2014-11-21 01:17:40
阅读次数：
350
不懂优化的人希望能有通用的方法来解决他手头的问题，但不幸的事没有这种方法存在，快速的方法都需要某些条件，比如常见的有强凸，线性，可分解啥的。目前研究的比较成熟的就是强凸光源可分解
非凸没有特别有效的方法来解，如果是强凸的，何必用那么复杂的方法求最优解？正是因为不是强凸的，才用到优化方法。就算是凸的，也分好几种不同的情况，只用一阶梯度，达到牛顿梯度法的收敛速度，在convex问题中，还有no...
分类：
编程语言 时间：
2014-11-18 14:50:00
阅读次数：
755
1、算法基本思想
分枝限界方法采用宽度优先的方式搜索解空间树， 将活结点存放在一个特殊的表中。在扩展结点处，先生成所有儿子结点,将那些导致不可行解或非最优解的儿子舍弃，其余儿子加入活结点表中。 此后， 从活结点表中按照某种规则取出一个结点作为当前扩展结点，继续搜索。
2、分类
从活结点表中选择下一扩展结点的不同方式导致不同的分枝限界方法。最常见的有以下两种方式：
（1）队列...
分类：
编程语言 时间：
2014-11-18 11:52:32
阅读次数：
253
背景欧几里德旅行商(Euclidean Traveling Salesman)问题也就是货郎担问题一直是困扰全世界数学家、计算机学家的著名问题。现有的算法都没有办法在确定型机器上在多项式时间内求出最优解，但是有办法在多项式时间内求出一个较优解。为了简化问题，而且保证能在多项式时间内求出最优解，J.L...
分类：
其他好文 时间：
2014-11-15 18:51:12
阅读次数：
203
转：01背包问题动态规划的基本思想：将一个问题分解为子问题递归求解，且将中间结果保存以避免重复计算。通常用来求最优解，且最优解的局部也是最优的。求解过程产生多个决策序列，下一步总是依赖上一步的结果，自底向上的求解。动态规划算法可分解成从先到后的4个步骤：1. 描述一个最优解的结构，寻找子问题，对问题...
分类：
编程语言 时间：
2014-11-13 18:37:16
阅读次数：
408
一般的线性回归使用的cost function为:但由于logistic function：本身非凸函数（convex function）， 如果直接使用线性回归的cost function的话，很难到达全局最优解。相反，很容易陷入局部最优解然后就认为到达收敛条件了。因此，logistic regr...
分类：
其他好文 时间：
2014-11-13 08:16:45
阅读次数：
221
项目做多了之后，会发现其实ScrollView嵌套ListiVew或者GridView等很常用，但是你也会发现各种奇怪问题产生。根据个人经验现在列出常见问题以及代码最少最简单的解决方法。
问题一：嵌套在ScrollView的ListiVew数据显示不全，我遇到的是最多只显示两条已有的数据。
解决办法：重写ListiVew或者GridView，网上还有很多若干解决办法，但是都不好用或者很...
分类：
其他好文 时间：
2014-11-12 16:37:33
阅读次数：
156
本文主要讨论了机器学习中的最大似然估计MLE，贝叶斯估计和最大后验估计MAP，以及它们的关系，是上一篇《机器学习浅析之最优解问题》的深入。
最大似然估计MLE
Frequentist Learning假定存在模型M，其中未知参数为.该参数的估计值为. 给定样本观察数据X，通过选择合适的θ值，可以使产...
分类：
其他好文 时间：
2014-11-10 13:29:51
阅读次数：
276
动态规划算法其实就是一种优化的算法，其基本思想就是将待求解的问题分解成若干子问题，先求解子问题（这些解不是独立的），然互从这些子问题中得到原问题的解。其最终得到的结果往往是最优解。和贪心法不同的是，动态规划法不可以将一个整体进行分割。
举个简单的例子：给出7个数，1,2.....7，从中选出不超过3个使得这3个数的和不超过20.求解时我们应该一步一步进行：
...
分类：
编程语言 时间：
2014-11-07 09:54:51
阅读次数：
186
转载，原文地址：http://blog.csdn.net/xidianzhimeng/article/details/20856047Sparsity 是当今机器学习领域中的一个重要话题。John Lafferty 和 Larry Wasserman 在 2006 年的一篇评论中提到：Some cu...
分类：
其他好文 时间：
2014-11-06 23:18:45
阅读次数：
2348
