按理说Po姐姐三月份来讲课的时候我就应该学了 但是当时觉得比较难加上自己比较懒，所以就QAQ了 现在不得不重新弄一遍了 首先说多项式求ln 设G(x)=lnF(x) 我们两边求导可以得到G'(x)=F‘(x)/F(x) 则G(x)就是F’(x)/F(x)的积分 我们知道多项式求导和积分是O(n)的, ...
分类：
其他好文 时间：
2016-06-21 19:01:55
阅读次数：
1992
在神经网络中，我们经常会用到 back propagation 算法来训练神经网络，根据网络的loss 函数，对网络
中的权值(weights)与偏移量(bias)求导，根据导数对权值与偏移量进行更新。
本文总结一下神经网络中，常用的几种 loss 函数，以及该 loss 函数的导数。假设输出层的值为：
f=wx+b f=wx+b
ww 是权值， bb 是偏移量， xx 是上一个...
分类：
其他好文 时间：
2016-06-21 07:35:05
阅读次数：
208
求导以及求偏导运算在数学中是很重要的一个部分，尤其是在高等数学中，基本都由函数的导数与偏导组成，很多公式定理也是关于这方面的，如果少了这一部分，数学将会黯然失色。因此在文档中涉及到这些内容时，必然会少不了偏导求导符号的出现，那么编辑公式时，MathType二次偏导怎么表示？ ...
分类：
其他好文 时间：
2016-06-01 10:19:40
阅读次数：
170
原文链接 原因：处理器本身无法满足高性能计算(HPC)应用软件的性能需求，导致需求和性能 之间出现了缺口。 最初解决办法：使用协处理器来提升处理器的性能。 协处理器（基于硬件的设计）具有三种能力： 1.专门的硬件加速实现各种应用中需要的关键处理功能； 2.使用流水线和并行结构，跟上性能的需求变化； ...
分类：
其他好文 时间：
2016-05-25 22:11:43
阅读次数：
258
#实值函数对向量的梯度1.2. 来自为知笔记(Wiz) ...
分类：
其他好文 时间：
2016-05-16 19:32:01
阅读次数：
122
情景
目前有个需求是在文本框填入内容，自动触发keyup事件，下拉列表会自动过滤相应的选项，但是使用了$,ajax后发现，每次触发事件时，都导致整个网页闪烁，触发了全局ajax事件
代码片段
$.ajax({
type: "POST",
url: root + "/xxx,
data: requestData,
dataType: "j...
分类：
Web程序 时间：
2016-05-12 20:01:29
阅读次数：
371
最大似然函数
我们没法直接用求导解方程的办法直接求得最大值。可以采用EM算法
换成公式3形式求最大似然函数，其中Qi(z(i))用以下求，p(xi,zi;θ)为下式分子带入3中求最大似然函数的参数值为2.
其中 ，并且 也顺理成章地可以估计为 。
重复迭代前面两步，直到似然函数的值收敛为止。
下列为GMM参考代码l连接点击...
分类：
其他好文 时间：
2016-05-12 12:37:15
阅读次数：
195
矩阵求导属于矩阵运算
常用求导公式：
Y = A * X –> DY/DX = A’
Y = X * A –> DY/DX = A
Y = A’ * X * B –> DY/DX = A * B’
Y = A’ * X’ * B –> DY/DX = B * A’
1. 矩阵Y对标量x求导：
相当于每个元素求导数后转置一下，注意M×N矩阵求导后变成N×M了
Y = [y(ij)] –...
分类：
其他好文 时间：
2016-05-07 08:49:28
阅读次数：
173
形式：
采用sigmoid函数：g(z)=11+e?zg(z)=\frac{1}{1+e^{-z}}
其导数为g′(z)=(1?g(z))g(z)g^\prime(z)=(1-g(z))g(z)
假设：
即：
若有m个样本，则似然函数形式是：
对数形式：
采用梯度上升法求其最大值
求导：
更新规则为：
可以发现，则个规则形式上和LMS更新规则是一样...
分类：
编程语言 时间：
2016-04-22 19:32:34
阅读次数：
314
向量积对列向量X求导运算法则： 注意与标量求导有点不同。 d(UV')/dX = (dU/dX)V' + U(dV'/dX) d(U'V)/dX = (dU'/dX)V + (dV'/dX)U 重要结论： d(X'A)/dX = (dX'/dX)A + (dA/dX)X' = IA + 0X' = ...
分类：
其他好文 时间：
2016-04-22 16:03:27
阅读次数：
2359
