参考了Udacity的一个梯度下降pdf
理解梯度下降可以,先联想一下自己下山的过程。
我们下山的过程是怎样的?
想象一下下图红点下山的目标是什么,就是下到哪里?
为了让函数来理解如何下山,我们来回忆一下导数。
一个自变量的导数:
两个自变量的导数,这里求的是偏导数,即对某一变量求导:
...
分类:
其他好文 时间:
2016-04-17 22:58:46
阅读次数:
311
第七周周记: 本周完成了 1.学习了高数的隐函数的求导和多元函数的求导,复习了偏导数和全微分。 2.学习了数据结构的顺序表和链式表的动态存储和应用,以及如何写代码。 3.HTML的网页设计:关于’滚动页面’的页面设计和开始学习用全代码做网页。 4.学会了在配置中设置网关,用命令行写配置和绘制一张交换 ...
分类:
其他好文 时间:
2016-04-13 00:01:01
阅读次数:
340
题目大意: 给出一个方程, 6 * x^7+8*x^6+7*x^3+5*x^2-y*x,输入y,求该方程的最小值,x的变化范围为0-100 解题思路: 先对方程求导,倒数为0时的x满足方程的最小值 代码: ...
分类:
其他好文 时间:
2016-04-03 14:29:05
阅读次数:
165
// 搜索算法 挨个尝试 1. 梯度下降 批梯度下降, 随机梯度下降 2. 矩阵求导方法 ...
分类:
其他好文 时间:
2016-04-02 22:59:50
阅读次数:
457
1.鲍威尔优化法综述
鲍威尔法又称方向加速法,它由Powell于1964年提出,是利用共轭方向可以加快收敛速度的性质形成的一种搜索方法。该方法不需要对目标函数进行求导,当目标函数的导数不连续的时候也能应用,因此,鲍威尔算法是一种十分有效的直接搜索法。
Powell法可用于求解一般无约束优化问题,对于维数n
不同于其他的直接法,Powell法有一套完整的理论体系,故其计算效率高于其他直接法。该...
分类:
编程语言 时间:
2016-04-01 18:49:59
阅读次数:
4272
Description Input Output Sample Input 题意:给出公式V2=iR,V2=Vr * cos(wt + q), V1=Vs * cos(wt), i = C * d(v1 - v2)/dt; d是求导数的意思。已知Vs,R,C,w,求Vr。 分析:利用V2分别等于两个
分类:
其他好文 时间:
2016-03-20 17:26:44
阅读次数:
163
一开始简单的实现一些功能,并没有考虑到后续的操作和需求。导致后面需求增加的同时,对于代码的管理变得不方便 需要重新编写以前的代码。 后来觉得反正需要重新编写,便将以前的Java版变成Web版本,同时也为了后续的需求进行了考虑,例如增加一些功能 的时候,不再需要重新编写代码
分类:
其他好文 时间:
2016-03-20 13:10:30
阅读次数:
158
图像变换是指将一幅图像变换为图像数据的另一种表现形式,例如将图像进行傅立叶变换,或者对图像进行X,Y方向的求导等,经过这些变换,可以将图像数据处理中的某些问题换一个别的角度想办法,所以图像变换是图像处理的时候比较常用的一种方法. 一.sobel算子 sobel算子是一个用于边缘检测的离散微分算子,其
分类:
其他好文 时间:
2016-03-08 00:11:27
阅读次数:
194
多媒体课件 1.1 函数 3.1 定积分的概念和性质 1.2 数列的极限 3.2 不定积分的概念与计算 1.3 函数的极限 3.3 定积分的计算 1.4 连续函数 3.4 定积分的应用 2.1 导数的概念 3.5 反常积分 2.2 求导运算 4.1 行列式 2.3 微分的概念与运算 4.2 矩阵 2
分类:
其他好文 时间:
2016-02-28 20:07:44
阅读次数:
226
1.原始问题 假设是定义在上的连续可微函数(为什么要求连续可微呢,后面再说,这里不用多想),考虑约束最优化问题: 称为约束最优化问题的原始问题。 现在如果不考虑约束条件,原始问题就是: 因为假设其连续可微,利用高中的知识,对求导数,然后令导数为0,就可解出最优解,很easy. 那么,问题来了(呵呵。
分类:
其他好文 时间:
2016-02-26 14:00:47
阅读次数:
146