反向传播算法从大体上理解就是通过计算最终误差与某个权值参数的梯度，来更新权值参数。 梯度就是最终误差对参数的导数，通过链式求导法则求出。 然后通过赋予学习率计算得出，例如： 其中 为学习率。 ...
分类：
编程语言 时间：
2019-01-27 13:01:25
阅读次数：
227
深度学习我认为最核心的被部分，是求导，更新的这个过程！ 这里涉及的矩阵求导，我觉得很复杂，看了很多的方法，记忆法则，真的是越看越不懂！ 清华那本书，也是太庞大了。 学习大佬这个矩阵求导术方法，矩阵求导，算法推理，真的是迎刃而解！非常的nice。 感谢大佬。 这里贴上图片，以防各种原因，丢失 原文知乎 ...
分类：
其他好文 时间：
2019-01-26 14:00:33
阅读次数：
344
#include <iostream>using namespace std;int main() { int a, b, flag = 0; while (cin >> a >> b) { if (b != 0) { if (flag == 1) cout << " "; cout << a * ...
分类：
其他好文 时间：
2019-01-25 12:50:25
阅读次数：
168
手动博客搬家: 本文发表于20181125 13:25:03, 原地址 https://blog.csdn.net/suncongbo/article/details/84487306 题目链接: https://www.luogu.org/problemnew/show/P4725 题目大意: 给 ...
分类：
其他好文 时间：
2019-01-23 21:32:44
阅读次数：
201
大家都知道，现在大数据是十分火热的，这也使得很多人都想进入大数据行业。但是现在的大数据在发展上还是有一些挑战的，前几年，大数据尚处膨胀阶段，后来开始转入了理性发展阶段，到现在已经到了使用的阶段，由此可见大数据的发展还是很不错的，如果我们解决的大数据现在存在的问题，那么就能够更好地发展大数据，下面我们... ...
分类：
其他好文 时间：
2019-01-22 17:34:23
阅读次数：
168
用途：分类预处理中的降维，做分类任务 目的：LDA关心的是能够最大化类间区分度的坐标轴 将特征空间（数据中的多维样本，将投影到一个维度更小的K维空间，保持区别类型的信息） 监督性：LDA是“有监督”的，它计算的是另一个类特定的方向 投影：找到更适用的分类空间 与PCA不同： 更关心分类而不是方差（P ...
分类：
其他好文 时间：
2019-01-22 00:34:44
阅读次数：
238
RNN 循环神经网络 BF 求导过程 所有的RNN都具有一种重复神经网络模块的链式形式。在标准RNN中，这个重复的结构模块只有一个非常简单的结构，例如一个tanh层 在时间视角上的显示为下图： 求导BP 更新参数值 整体误差E等于每个时刻E_t的误差之和 整体损失对U/V/W进行求偏导 $$ ΔU= ...
分类：
其他好文 时间：
2019-01-21 21:11:53
阅读次数：
492
参考：【351】实数对向量求导公式 参考：【352】矩阵转置性质 线性回归的损失函数如下：$$E_b = {(X b - y)^T (X b - y)}$$ 将转置打开，像是开平方一样，运用到上面的性质：$$\begin{equation*}\begin{split}E_b &= (X b - y) ...
分类：
其他好文 时间：
2019-01-21 12:16:16
阅读次数：
260
幂等性 定义 WEB资源或API方法的幂等性是指一次和多次请求某一个资源应该具有同样的副作用。 场景 表单重复提交 尤其HTTP POST 操作既不是安全的，也不是幂等的（至少在HTTP规范里没有保证）。当我们因为反复刷新浏览器导致多次提交表单，多次发出同样的POST请求，导致远端服务器重复创建出了 ...
分类：
其他好文 时间：
2019-01-18 17:23:32
阅读次数：
192
