过拟合：过拟合的时候，拟合函数的系数往往非常大 过拟合，就是拟合函数需要顾忌每一个点，最终形成的拟合函数波动很大。在某些很小的区间里，函数值的变化很剧烈。 这就意味着函数在某些小区间里的导数值（绝对值）非常大 监督学习可以看做最小化下面的目标函数： 第1项为经验风险，即模型f(x)关于训练数据集的平 ...
分类：
其他好文 时间：
2018-10-29 16:06:39
阅读次数：
200
神经网络的BP推导过程 下面我们从一个简单的例子入手考虑如何从数学上计算代价函数的梯度，考虑如下简单的神经网络，该神经网络有三层神经元，对应的两个权重矩阵,为了计算梯度我们只需要计算两个偏导数即可： 首先计算第二个权重矩阵的偏导数，即 首先需要在之间建立联系，很容易可以看到的值取决于,而,而又是由取... ...
分类：
其他好文 时间：
2018-10-26 22:10:22
阅读次数：
367
1、大纲视图式的思维导图：https://mubu.com/edit/3qXKteMueT 上述导图还没有最终完成，使用的软件为【幕布】，如果你感兴趣，请扫码注册，这样我们都能得到15天的高级会员功能时长。 2、网页内嵌式的思维导图： ...
分类：
其他好文 时间：
2018-10-20 20:23:20
阅读次数：
134
最近需要导数据的情况太多，总用跳板机上的navicat工具有点效率低，也觉得挺麻烦的(由于跳板机无法连通外网所以导出数据文件还得通过sftp传到本机)anyway还是写个脚本好了。之前写过一个shell脚本做的定时导出任务，现在试试用python写下主要用到的库有:pymysql--连数据库的无需多说os&sys--可能回涉及到工作目录或者外部传参xlwt--写excel下面就是代码了，总
分类：
数据库 时间：
2018-10-19 15:13:18
阅读次数：
235
作为一个开发，总要时不时的帮运维排查问题、给运营导数据，而且也会担心自己开发的系统是否足够健壮，机器的性能是否都得到了发挥，哪些业务将会是瓶颈。总是需要分心去处理这些东西，怎么能写好代码，或许到了开发一套监控系统的时候了。 elk(Elasticsearch+Logstash+Kibana)是一套不 ...
分类：
其他好文 时间：
2018-10-19 14:15:07
阅读次数：
149
导言 说明： "原文档" 已更新为此文档！ 这里分享的是一个有关积分的初等可积性的 切比雪夫定理 的证明过程，其中包含了对初等函数的定义、对阿贝尔积分的一些初步探讨、刘维尔的一个初等可积判断定理和最终切比雪夫关于二项微分式积分 初等可积性 的定理。 切比雪夫定理 ：设$$\int x^m(a+bx^ ...
分类：
其他好文 时间：
2018-10-19 02:04:45
阅读次数：
337
梯度消失与梯度爆炸 这里忽略了常数项b。为了让z不会过大或者过小，思路是让w与n有关，且n越大，w应该越小才好。这样能够保证z不会过大。一种方法是在初始化w时，令其方差为。相应的python伪代码为： 如果激活函数是tanh，一般选择上面的初始化方法。 如果激活函数是ReLU，权重w的初始化一般令其 ...
分类：
其他好文 时间：
2018-10-18 00:56:33
阅读次数：
202
前向传播： 前向传播就是求特征图的过程 通常x和w有四个维度[编号，深度，高度，宽度] 反向传播： 先来复习一下反向传播的知识： 反向传播回来的是梯度，也就是偏导数 反向传播力有一个链式法则：对于反向传播（反着看），本层要往后面一层穿的的偏导=本层自身的偏导×上一层传过来的偏导 红色代表反向传播，绿 ...
分类：
其他好文 时间：
2018-10-17 16:53:16
阅读次数：
489
有木有遇到过这种情况？电脑或者服务器需要重装系统？可是你电脑上存着n多个网站的数据库，怎么办？把数据库文件夹拷贝出来，重装系统之后再拷回去？如果你使用了InnoDB引擎，恐怕那样做会出麻烦的，一个一个往外导数据库？天哪，那要搞到何年何月啊？今天就来介绍一下如何一口气导出全部数据库，再把数据库恢复回来 ...
分类：
数据库 时间：
2018-10-15 12:06:13
阅读次数：
203
RankNet、LambdaRank和LambdaMART是三个关系非常紧密的机器学习排序算法。简而言之，RankNet是最基础，基于神经网络的排序算法；而LambdaRank在RankNet的基础上修改了梯度的计算方式，也即加入了lambda梯度；LambdaMART结合了lambda梯度和MAR... ...
分类：
编程语言 时间：
2018-10-14 23:07:03
阅读次数：
222
