数据、特征和数值优化算法是机器学习的核心，而牛顿法及其改良（拟牛顿法）是机器最常用的一类数字优化算法，今天就从牛顿法开始，介绍几个拟牛顿法算法。本博文只介绍算法的思想，具体的数学推导过程不做介绍。1. 牛顿法牛顿法的核心思想是”利用函数在当前点的一阶导数，以及二阶导数，寻找搜寻方向“（回想一下更简单...
分类：
其他好文 时间：
2015-05-28 17:44:24
阅读次数：
282
今天在执行导数据的命令expdp之后发现少放了一个参数，赶紧CTRL+C，谁这个操作只能表面cancel这个操作，其实后台还在运行。system/******** schemas=CEN_DEV_OWNER20130506,CEN_DEV_USER20130506 directory=exp_dir dumpfile=expdp_cen052701.dmp,expdp_cen052702.dmp,e...
分类：
其他好文 时间：
2015-05-27 15:49:34
阅读次数：
146
原文：http://blog.csdn.net/songzitea/article/details/12851079背景引言在博文差分近似图像导数算子之Laplace算子中，我们提到Laplace算子对通过图像进行操作实现边缘检测的时，对离散点和噪声比较敏感。于是，首先对图像进行高斯暖卷积滤波进行降...
分类：
其他好文 时间：
2015-05-27 11:50:19
阅读次数：
204
设区域$D$上一条曲线$z=\gamma(t),a\leq t\leq b$,设起点$\gamma(a)=z_{0}$,现有一个定义在$D$上且在$z_{0}$处全纯且$f'(z_{0})\neq0$的函数$f(z)$,我们考虑曲线$\gamma$在他映射下的像$$w=\sigma(t)=f(\ga...
分类：
其他好文 时间：
2015-05-25 18:08:15
阅读次数：
109
二分法与黄金分割法求函数方程最小值程序设计语言：C++
输入：线性搜索模型（目标函数系数，搜索区间，误差限等）
输出：最优解及对应目标函数值
实验数据
区间[0.3,1],误差ε=1e-4
结果
二分法最后结果为：导数在0.637009处取零点，函数在区间【0.3,1】取得最小值11.252754.
（二分法结果图）
黄金分割法最后结果为：输入初始值0.3，导数在...
分类：
其他好文 时间：
2015-05-22 17:13:07
阅读次数：
313
一、牛顿法
在博文“优化算法——牛顿法(Newton
Method)”中介绍了牛顿法的思路，牛顿法具有二阶收敛性，相比较最速下降法，收敛的速度更快。在牛顿法中使用到了函数的二阶导数的信息，对于函数，其中表示向量。在牛顿法的求解过程中，首先是将函数在处展开，展开式为：
其中，，表示的是目标函数在的梯度，是一个向量。，表示的是目标函数在处的Hesse矩阵。省略掉...
分类：
编程语言 时间：
2015-05-19 22:37:25
阅读次数：
493
1. 梯度下降法 导数为0， 所以直接沿导数方向。 learning rate 过小：，过大。 越靠近极值，梯度下降步长越小。 用上所有的training数据，叫batch gradient descent. 计算梯度时要用同一个时刻的值，不能用更新后的值。 迭代停止条件：2. feat...
分类：
系统相关 时间：
2015-05-19 22:23:26
阅读次数：
219
阿里技术保障莱澳技术运维IDC专家1前言近几年，数据中心发展如火如荼。伴随云计算、大数据、物联网等从概念到实践，作为支撑这些业务发展的数据中心基础设施行业面临巨大的机遇和挑战。国内数据中心以投产机架或投资计算，近2~3年基本保持20%以上增速，尤其是国家政策引导数据..
分类：
其他好文 时间：
2015-05-18 21:03:54
阅读次数：
269
转自：http://www.ituring.com.cn/tupubarticle/2024第 1 章 基本的图像操作和处理本章讲解操作和处理图像的基础知识，将通过大量示例介绍处理图像所需的 Python 工具包，并介绍用于读取图像、图像转换和缩放、计算导数、画图和保存结果等的基本工具。这些工具的使...
分类：
编程语言 时间：
2015-05-17 18:19:28
阅读次数：
2434
问题描述：一本书的页码从自然数1开始顺序编码直到自然数n。书的页码按照通常的习惯编排，每个页码都不含多余的前导数字0。例如第6页用6表示而不是06或006。数字统计问题要求对给定书的总页码，计算出书的全部页码中分别用到多少次数字0,1,2,3,.....9。算法分析：比如，对于一个数字34567，我...
分类：
其他好文 时间：
2015-05-10 00:59:44
阅读次数：
181
