一般的线性回归使用的cost function为:但由于logistic function:本身非凸函数(convex function), 如果直接使用线性回归的cost function的话,很难到达全局最优解。相反,很容易陷入局部最优解然后就认为到达收敛条件了。因此,logistic regr...
分类:
其他好文 时间:
2014-11-13 08:16:45
阅读次数:
221
从算法的实现向算法的设计转变,提供解决问题的思路1.贪心算法一种局部最优算法设计思路,思想是保证每一步选择在当前达到最优。一个很常见的贪心算法案例是零钱找取问题。调度问题:书上的调度问题比较简单,其目标是所有作业的平均持续时间(调度+运行)最短,无论是但处理器还是多处理器,最优解的方案总是按作业的长...
分类:
编程语言 时间:
2014-11-04 17:00:22
阅读次数:
372
贪心方法并未考虑整体最优解, 它所做出的选择只是在某种意义上的局部最优选择,不一定能够得到整体最优解。 但是, 有相当一部分问题, 使用贪心方法能够得到整体最优解。
1、装载问题
(1)问题描述
(2)算法描述
2、背包问题
(1)问题描述
(2)背包问题的贪心算法
贪心方法主要用于处理优化问题。 每个优化问题都是由目标函数和约束条件组成。 满足约...
分类:
编程语言 时间:
2014-10-29 13:07:11
阅读次数:
245
今天看了一下贪心算法,贪心算法没有具体的算法框架。贪心算法主要找当前看来最好的解,没有考虑整体最优。得到的只是局部最优解。贪心算法不是对所有问题都能得到整体最优解,选择的贪心策略必须具备无后效性,即某个状态以后的过程不会影响以前的状态,只与当前状态有关。所以对所采用的贪心策略一定要仔细分析其是否满足...
分类:
编程语言 时间:
2014-10-27 21:13:43
阅读次数:
322
贪心策略适用的前提是:局部最优策略能导致产生全局最优解。
实际上,贪心算法适用的情况很少。一般,对一个问题分析是否适用于贪心算法,可以先选择该问题下的几个实际数据进行分析,就可做出判断。...
分类:
编程语言 时间:
2014-10-27 15:42:47
阅读次数:
183
一、什么是贪心贪心算法嘛、、、就是在对某个问题求解时,总是做出在当前看来是最好的选择In other wors,并不是从整体最优上加以考虑,而是在获得某种意义上的局部最优解二、贪心算法的适用前提局部的最优解能导致最后整体的最优解,即局部的最优解不受该部分以外的东西的影响对于贪心算法,我们需要证明:整...
分类:
其他好文 时间:
2014-10-26 22:32:01
阅读次数:
209
一、基本概念
所谓贪心算法是指,在对问题求解时,总是做出在当前看来是最好的选择。也就是说,不从整体最优上加以考虑,他所做出的仅是在某种意义上的局部最优解。
贪心算法没有固定的算法框架,算法设计的关键是贪心策略的选择。必须注意的是,贪心算法不是对所有问题都能得到整体最优解,选择的贪心策略必须具备无后效性,即某个状态以后的过程不会影响以前的状态,只与当前状态有关。所以对所采用的贪心策略一定要仔细分...
分类:
编程语言 时间:
2014-10-20 17:21:26
阅读次数:
201
均值漂移算法以迭代的方式锁定概率函数的局部最大值。它主要是寻找预定义窗口中数据点的重心点,或者说加权平均值。该算法将窗口中心移动到数据点的重心处,并重复这个过程直到窗口重心收敛到一个稳定点。
从数学角度上说,Mean Shift算法利用概率密度的梯度爬升来寻找局部最优。当输入一个图像的范围,然后根据反向投影图和输入的方框进行Mean Shift迭代,它是向重心移动,即向反向投影图中概率大的地方移动,所以始终会移动到目标上,Mean Shift算法是一个变步长的梯度上升算法。...
分类:
编程语言 时间:
2014-10-16 10:22:22
阅读次数:
400
这道题真真是在面试中碰到过,可惜当时复杂度到O(n2)了,太挫了,怪不得没有通过面试。
Given n non-negative integers a1, a2,
..., an, where each represents a point at coordinate (i, ai). n vertical
lines are drawn such that the two en...
分类:
编程语言 时间:
2014-10-09 01:58:17
阅读次数:
229
关于深度学习的一些个人浅见:
深度学习通常是训练深度(多层)神经网络,用于模式识别(如语音、图像识别);深度网络 指是具有深层(多层)网络结构的神经网络。
深层网络由于神经元多,参数多,拟合表现能力强,有表现欲解决复杂问题的能力。
但是深度网络存在很多局部最优解,深度网络的训练容易停留在局部最优上,初始参数的选择对网络最终收敛在那个位置有很大的影响。...
分类:
数据库 时间:
2014-09-03 11:18:46
阅读次数:
2523