径向基函数（RBF）神经网络RBF网络能够逼近任意的非线性函数，可以处理系统内的难以解析的规律性，具有良好的泛化能力，并有很快的学习收敛速度，已成功应用于非线性函数逼近、时间序列分析、数据分类、模式识别、信息处理、图像处理、系统建模、控制和故障诊断等。简单说明一下为什么RBF网络学习收敛得比较快。当...
分类：
其他好文 时间：
2015-05-29 11:45:18
阅读次数：
313
正则化方法：L1和L2 regularization、数据集扩增、dropout本文是《Neural networks and deep learning》概览中第三章的一部分，讲机器学习/深度学习算法中常用的正则化方法。（本文会不断补充）正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者...
分类：
其他好文 时间：
2015-05-19 22:09:23
阅读次数：
230
自己总结的机器学习基础算法，和相应的python代码实现，直接上传word和python代码
机器学习算法基础及Python实现
目录
一 机器学习概述...
4
1.1 统计学习...
4
1.2 监督学习...
4
1.3 模型评估与选择...
4
1.4 模型的泛化能力...
5
二 预测算法...
5
1 一元线性回归...
5
1.1 为什么...
分类：
其他好文 时间：
2015-04-25 22:47:56
阅读次数：
187
本文是《Neural networks and deep learning》概览 中第三章的一部分，讲机器学习/深度学习算法中常用的正则化方法。（本文会不断补充）正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其直观的表现如下图所示，随着训练过程，网络在training data上的error渐渐减小，但是在验证集上...
分类：
其他好文 时间：
2015-03-14 18:32:59
阅读次数：
63684
http://www.cnblogs.com/levone/p/3531054.html#2898984 1.4 模型评估与模型选择 泛化能力（generalization ability)：学习方法对未知数据的预测能力。 过拟合（over-fitting)：学习时选择的模型所包含...
分类：
其他好文 时间：
2015-03-10 11:42:10
阅读次数：
240
这一节讲述的是机器学习的核心、根本性问题——学习的可行性。学过机器学习的我们都知道，要衡量一个机器学习算法是否具有学习能力，看的不是这个模型在已有的训练数据集上的表现如何，而是这个模型在训练数据外的数据（一般我们称为测试数据）上性能的好坏，我们把这个性能称为泛化能力（generalization a...
分类：
其他好文 时间：
2015-03-08 15:37:17
阅读次数：
183
泛化能力差和过拟合问题
以一维的回归分析为例，输出为目标函数加上一点噪声yn=fn(xn)+noise。如果用高阶多项式去拟合数据的话（比如有五个数据点，用四次多项式去拟合的话，如果让该多项式曲线均通过这几个数据点的话，则只有唯一解），这种情况可能使得训练误差Ein很小，但是实际的真实误差就可能很大，这说明我们求解的模型的泛化能力很差(bad generalization)，这在...
分类：
其他好文 时间：
2015-02-10 11:24:44
阅读次数：
376
本文基本按照《统计学习方法》中第一章的顺序来写，目录如下：1. 监督学习与非监督学习2. 统计学习三要素3.过拟合与正则化（L1、L2）4.交叉验证5. 泛化能力6. 生成模型与判别模型7. 机器学习主要问题8. 提问正文：1. 监督学习与非监督学习 从标注数据中学习知识的规律以及训练模型的方法叫....
分类：
其他好文 时间：
2014-11-16 21:18:33
阅读次数：
281
在机器学习领域，集成学习由于可以提高学习系统的泛化能力，因此被广泛关注使用。对于集成学习可以分为两个阶段： 1）对训练数据集构造出多个基分类器。 这些基分类器的构造通常采用数据子集或者特征子集的方法进行构造，加上随机子集的方法，保证构造出的多个基分类器相互之间具有差异性 ...
分类：
其他好文 时间：
2014-11-10 21:35:02
阅读次数：
1935
集成学习：是目前机器学习的一大热门方向，所谓集成学习简单理解就是指采用多个分类器对数据集进行预测，从而提高整体分类器的泛化能力。 我们在前面介绍了。所谓的机器学习就是通过某种学习方法在假设空间中找到一个足够好的函数h逼近f，f是现实数据的分布函数模型，这个近似的函数就是分类器。 我们以分类问...
分类：
其他好文 时间：
2014-10-18 22:12:54
阅读次数：
305
