求导以及求偏导运算在数学中是很重要的一个部分，尤其是在高等数学中，基本都由函数的导数与偏导组成，很多公式定理也是关于这方面的，如果少了这一部分，数学将会黯然失色。因此在文档中涉及到这些内容时，必然会少不了偏导求导符号的出现，那么编辑公式时，MathType二次偏导怎么表示？ ...
分类：
其他好文 时间：
2016-06-01 10:19:40
阅读次数：
170
前面几章已经介绍了神经网络的结构、数据初始化、激活函数、损失函数等问题，现在我们该讨论如何让神经网络模型进行学习了。1 梯度检验权重的更新梯度是否正确决定着函数是否想着正确的方向迭代，在UFLDL中我们提到过，计算时梯度公式如果计算错误是不容被察觉的，我们需要比较分析法得到梯度与数值法得到的梯度是否相似，下面是一些技巧：1.1 centered formula高等数学中我们知道导数的近似公式：
d...
分类：
其他好文 时间：
2016-05-30 15:16:30
阅读次数：
354
先抛开上面的二次规划问题，先来看看存在等式约束的极值问题求法，比如下面的最优化问题： 目标函数是f(w)，下面是等式约束。通常解法是引入拉格朗日算子，这里使用来表示算子，得到拉格朗日公式为 L是等式约束的个数。 然后分别对w和求偏导，使得偏导数等于0，然后解出w和。至于为什么引入拉格朗日算子可以求出 ...
分类：
其他好文 时间：
2016-05-20 11:13:46
阅读次数：
175
很多时候，需要批量的导数据，可能大家想到的第一反应就是右键数据库->任务->导入导出数据。但是其实微软自身提供的大容量导入导出工具,有bcp, bulkinsert 之类的也是很好用。今天整理一下bcp 的常规用法 首先bcp 的介绍页，请：https://msdn.microsoft.com/zh ...
分类：
其他好文 时间：
2016-05-13 17:00:34
阅读次数：
216
LMS算法，即为最小均方差，求的是误差的平方和最小。 利用梯度下降，所谓的梯度下降，本质上就是利用导数的性质来求极值点的位置，导数在这个的附近，一边是大于零，一边又是小于零的，如此而已。。。 而这个里，导数的正负性，是依靠误差的正负来决定的，懒得多说，大致如图： ...
分类：
编程语言 时间：
2016-05-13 09:24:01
阅读次数：
373
这几天参加导数据，还真是个磨人的活呀，大量的数据导出、修改，甚至都觉得这工作实在是无聊，就是占用时间。其中有个字段是起始周（格式：01-17）要把它分成两个字段，开始周（01）和结束周（17）。
明显一个个改是不科学的，要批量获取就要用到函数：
excel中截取字符串函数包括Left，Right，Mid函数等
格式：left（text，num_chars)
参数1：要截取...
分类：
其他好文 时间：
2016-05-13 02:22:01
阅读次数：
265
今天用expdp导数据出现ORA-01555:snapshottooold错误，表中有clob字段，增加retentiontime和增加undo表空间都没有用，最后发现是有LOBsegmentcorruption。ORA-31693:Tabledataobject"NEWCMS"."ARTICLE"failedtoload/unloadandisbeingskippedduetoerror:ORA-02354:errorinexport..
分类：
其他好文 时间：
2016-05-09 18:57:37
阅读次数：
329
作者:长沙理工大学 交通运输工程学院 王航臣 1、函数的极限 函数：limit 功能：求取函数的极限 语法： limit(f) limit(f,x,a) limit(f,x,a,'right') limit(f,x,a,'left') 说明：第一个指表达式f中自变量趋于0时的极限；第二个指表达式f中 ...
分类：
其他好文 时间：
2016-05-08 18:26:54
阅读次数：
277
1. 基本概念
方向导数：是一个数；反映的是f(x,y)在P0点沿方向v的变化率。
偏导数：是多个数（每元有一个）；是指多元函数沿坐标轴方向的方向导数，因此二元函数就有两个偏导数。
偏导函数：是一个函数；是一个关于点的偏导数的函数。
梯度：是一个向量。
2. 方向导数
反映的是f(x,y)在P0点沿方向v的变化率。
例子如下...
分类：
其他好文 时间：
2016-05-07 10:55:26
阅读次数：
152
梯度下降中，计算完各个参数的导数之后就需要更新参数值了，最常用的更新参数方法就是：
【SGD】：
x += - learning_rate * dx
但是这种方法收敛速度非常慢，其实除了这个更新参数的方法，还有很多的方法可以进行参数更新。
【Momentum update】：
这个方法对于深度学习的网络参数...
分类：
其他好文 时间：
2016-05-07 10:25:55
阅读次数：
224
