矩阵求导属于矩阵运算
常用求导公式：
Y = A * X –> DY/DX = A’
Y = X * A –> DY/DX = A
Y = A’ * X * B –> DY/DX = A * B’
Y = A’ * X’ * B –> DY/DX = B * A’
1. 矩阵Y对标量x求导：
相当于每个元素求导数后转置一下，注意M×N矩阵求导后变成N×M了
Y = [y(ij)] –...
分类：
其他好文 时间：
2016-05-07 08:49:28
阅读次数：
173
机器学习中常会用随机梯度下降法求解一个目标函数 L(Θ)L(\Theta) ，并且常是最小化的一个优化问题：
min L(Θ)min \ L \left(\Theta\right)
我们所追求的是目标函数能够快速收敛或到达一个极小值点。而随机梯度法操作起来也很简单，不过是求偏导数而已，但是为什么是这样呢？为什么算出偏导数就能说下降得最快？初期并不很明了，后来看过一些数学相关的知识才稍微明白了一点...
分类：
其他好文 时间：
2016-05-06 15:07:10
阅读次数：
1119
两种方法: -- 方法1. UPDATE 表2 SET 表2.C = (SELECT B FROM 表1 WHERE 表1.A = 表2.A) WHERE EXISTS ( SELECT 1 FROM 表1 WHERE 表1.A = 表2.A) -- 方法2 MERGE INTO 表2 USING ...
分类：
数据库 时间：
2016-05-03 19:56:04
阅读次数：
189
剧情提要：
[机器小伟]在[工程师阿伟]的陪同下进入了[九转金丹]之第五转的修炼。
这次要研究的是[导数及其应用]。
正剧开始：
星历2016年04月23日 16:32:36, 银河系厄尔斯星球中华帝国江南行省。
[工程师阿伟]正在和[机器小伟]一起研究[导数及其应用]。
>>>
[-3.000001001396413, -2.999998...
分类：
其他好文 时间：
2016-04-29 20:00:28
阅读次数：
186
剧情提要：
[机器小伟]在[工程师阿伟]的陪同下进入了[九转金丹]之第五转的修炼。
这次要研究的是[导数及其应用]。
正剧开始：
星历2016年04月23日 16:32:36, 银河系厄尔斯星球中华帝国江南行省。
[工程师阿伟]正在和[机器小伟]一起研究[导数及其应用]。
>>>
[-3.000001001396413, -2.999998...
分类：
其他好文 时间：
2016-04-26 21:57:53
阅读次数：
168
形式：
采用sigmoid函数：g(z)=11+e?zg(z)=\frac{1}{1+e^{-z}}
其导数为g′(z)=(1?g(z))g(z)g^\prime(z)=(1-g(z))g(z)
假设：
即：
若有m个样本，则似然函数形式是：
对数形式：
采用梯度上升法求其最大值
求导：
更新规则为：
可以发现，则个规则形式上和LMS更新规则是一样...
分类：
编程语言 时间：
2016-04-22 19:32:34
阅读次数：
314
图像边缘分析
一阶微分算子
一梯度算子
二Robert算子
三Sobel算子
四Prewitt算子
二阶微分算子
高斯滤波和边缘检测
一高斯函数
二LOG算子
三Canny算子
频域高通滤波图像边缘分析边缘定义为图像中亮度突变的区域，分为：细线型边缘、突变型边缘和渐变型边缘
1）突变型边缘位于图像中具有不同灰度值的相邻区域之间，对应于一阶导数的极值和二阶导数的过零点
2）细线型边缘对应于灰度变化...
分类：
其他好文 时间：
2016-04-22 19:27:39
阅读次数：
357
（一）牛顿法解最大似然估计 牛顿方法（Newton's Method）与梯度下降（Gradient Descent）方法的功能一样，都是对解空间进行搜索的方法。其基本思想如下： 对于一个函数f(x)，如果我们要求函数值为0时的x，如图所示： 我们先随机选一个点，然后求出该点的切线，即导数，延长它使之 ...
分类：
其他好文 时间：
2016-04-21 01:17:59
阅读次数：
442
一本书的页码从自然数1 开始顺序编码直到自然数n书的页码按照通常的习惯编排，每个页码都不含多余的前导数字0例如，第6 页用数字6 表示，而不是06 或006 等。数字计数问题要求对给定书的总页码n 计算出书的全部页码中分别用到多少次数字0 1 2 …，9 编程任务 ： 给定表示书的总页码的10 进制 ...
分类：
编程语言 时间：
2016-04-20 13:45:06
阅读次数：
277
一本书的页码从自然数1 开始顺序编码直到自然数n书的页码按照通常的习惯编排，每个页码都不含多余的前导数字0例如，第6 页用数字6 表示，而不是06 或006 等。数字计数问题要求对给定书的总页码n 计算出书的全部页码中分别用到多少次数字0 1 2 …，9 编程任务 ： 给定表示书的总页码的10 进制 ...
分类：
编程语言 时间：
2016-04-20 13:41:23
阅读次数：
165
