神经网络非线性能力即原理1. 感知器与逻辑门2. 强大的空间非线性切分能力3. 网络表达能力与过拟合问题4. BP算法与SDG Café主要是用于图像的主流框架Tensflow框架，灵活的网络，工程上做训练，常用库TF-learning，TensorLayerKreas框架 搭建常用网络深度学习应用 ...
分类：
其他好文 时间：
2017-07-14 20:27:34
阅读次数：
914
http://blog.csdn.net/xlbryant/article/details/48470987 1.数据库太小一般不会带来不收敛的问题，只要你一直在train总会收敛（rp问题跑飞了不算）。反而不收敛一般是由于样本的信息量太大导致网络不足以fit住整个样本空间。样本少只可能带来过拟合的 ...
分类：
其他好文 时间：
2017-07-10 23:41:29
阅读次数：
2664
2.1 经验误差与拟合 精度（accuracy）和错误率（error rate）：精度=1-错误率 训练误差（training error）或经验误差（empirical error） 泛化误差（generalization error） 过拟合（overfitting）和欠拟合（underfitt ...
分类：
其他好文 时间：
2017-06-29 23:56:00
阅读次数：
237
### Introduction 个性化对话系统当训练在小数据集上的时候很容易就会过拟合，从而难以适应不同用户的需求。这篇论文提出了这样的一个解决方法：将多个用户的集合作为来源域和单个目标用户作为目标域，并将常见的对话知识转移到目标域。转移对话对话知识的时候，来源域和目标域的区别是一个很大的挑战。 ...
分类：
其他好文 时间：
2017-06-28 18:37:16
阅读次数：
159
摘要 过去几年，深度学习在解决诸如视觉识别、语音识别和自然语言处理等很多问题方面都表现出色。在不同类型的神经网络当中，卷积神经网络是得到最深入研究的。早期由于缺乏训练数据和计算能力，要在不产生过拟合的情况下训练高性能卷积神经网络是很困难的。标记数据和近来GPU的发展，使得卷积神经网络研究涌现并取得一 ...
分类：
其他好文 时间：
2017-06-25 14:16:30
阅读次数：
428
本文主要解说局部加权(线性)回归。在解说局部加权线性回归之前，先解说两个概念：欠拟合、过拟合。由此引出局部加权线性回归算法。 欠拟合、过拟合 例如以下图中三个拟合模型。第一个是一个线性模型。对训练数据拟合不够好，损失函数取值较大。如图中第二个模型，假设我们在线性模型上加一个新特征项，拟合结果就会好一 ...
分类：
其他好文 时间：
2017-06-23 14:17:27
阅读次数：
164
Locally weighted regression，局部加权回归 对于线性回归，问题是选取的特征的个数和什么特征会极大影响fit的效果。 比如下图，是分布使用下面几个模型进行拟合的 ： 通常会认为第一个模型underfitting（欠拟合），而第三个模型overfitting（过拟合），第二个模 ...
分类：
其他好文 时间：
2017-06-03 14:01:33
阅读次数：
337
前几天备战考试，接下来的日子将会继续攻克大数据比赛 虽然停止了一段时间没有提交数据，但是这几天的收获还是有的，对Python 随机森林了解的更了解了 随机森林是由多课决策树组成（当然这个虽然我们初学者都知道，但是我确定没有现在认识的深刻），多棵决策树经过数据训练后，经过投票方式对测试数据进行判断 那 ...
分类：
其他好文 时间：
2017-06-01 22:44:36
阅读次数：
106
正则化方法：防止过拟合，提高泛化能力 在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其直观的表现如下图所示，随着训练过程的进行，模型复杂度增加，在training data上的error渐渐减小，但是在验证集上的error却反而渐渐增大——因为训练出 ...
分类：
其他好文 时间：
2017-05-31 10:11:34
阅读次数：
166
2.1 经验误差与过拟合 1. error rate/accuracy 2. error: training error/empirical error, generalization error 3. overfitting and underfitting 2.2 评估方法 1. hold ou ...
分类：
其他好文 时间：
2017-05-30 21:55:14
阅读次数：
127
