//2019.08.17 #支撑向量机SVM(Support Vector Machine)1、支撑向量机SVM是一种非常重要和广泛的机器学习算法，它的算法出发点是尽可能找到最优的决策边界，使得模型的泛化能力尽可能地好，因此SVM对未来数据的预测也是更加准确的。 2、支撑向量机SVM有两种：Hard ...
分类：
其他好文 时间：
2019-08-17 14:23:06
阅读次数：
84
背包九讲系列1——01背包、完全背包、多重背包 https://www.jianshu.com/p/0b9018bbacd7 背包九讲系列2——混合背包、二维费用背包、分组背包 https://www.jianshu.com/p/efa8fbc0fea4 背包九讲系列3——依赖背包、泛化物品、背包变 ...
分类：
其他好文 时间：
2019-08-15 21:22:00
阅读次数：
105
前言 我们终于学习最后一个设计原则了，其实博主更新的还是挺慢的，因为我想一个一个吃透以后再继续学习，切记不要囫囵吞枣。 基本介绍 其实这个能说的内容很少，就是： 尽量使用合成/聚合的方式，而不是使用继承 为什么要这样做？有一下两点原因： 1. 通过继承来进行复用的主要问题在于继承复用会破坏系统的封装 ...
分类：
其他好文 时间：
2019-08-13 12:08:06
阅读次数：
116
模型泛化 [TOC] 泛化即是，机器学习模型学习到的概念在它处于学习的过程中时模型没有遇见过的样本时候的表现。 ? 类似于考试前疯狂刷题不管这些题做的都好都没用，只有在下次考试中才有效果，而下次考试的那些题可能从来没见过，只有学会这些基础的东西，无论怎么变都能认出来。模型也是一样，不管训练集上表现如 ...
分类：
其他好文 时间：
2019-08-13 00:31:55
阅读次数：
182
（一）什么是多项式回归 还记得线性回归法吗？线性回归法有一个很大的局限性，那就是需要数据是有一定的线性关系的，但是现实中的很多数据是没有线性关系的。多项式就是用来解决这个问题的，可以处理非线性数据 在线性回归中，我们是假设数据具有线性关系的，因此我们在简单线性回归中，将直线的方向设置为y=ax+b的 ...
分类：
其他好文 时间：
2019-08-13 00:15:18
阅读次数：
102
决策树在长成的过程中极易容易出现过拟合的情况，导致泛化能力低。主要有两种手段可以用于防止过拟合。## 提前停止Early Stopping，在完全长成以前停止，以防止过拟合。主要有以下3种方式：1. 限制树的高度，可以利用交叉验证选择2. 利用分类指标，如果下一次切分没有降低误差，则停止切分3. 限... ...
分类：
其他好文 时间：
2019-08-06 14:12:33
阅读次数：
802
UML类图 基本描述： 用于描述类（对象）本身的组成 和 类（对象）之间的各种静态关系。 类之间的关系：依赖、继承（泛化）、实现、关联、聚合与组合。 一、依赖关系 只要是类中用到了对方，那么他们就存在依赖关系。 包括以下几个方面 1）类的成员属性 2）方法的返回类型 3）方法的接收参数 4）方法中使 ...
分类：
其他好文 时间：
2019-07-26 01:09:40
阅读次数：
130
作用：正则化是一种有效的防止过拟合、提高模型泛化能力方法，在机器学习和深度学习算法 中应用非常广泛，在早期的机器学习领域一般只是将范数惩罚叫做正则 化技术，而在深度学习领域认为：能够显著减少方差，而不过度增加偏差的策略都可以认为 是正则化技术，故此推广的正则化技术还有：扩增样本集、早停止、Dropo ...
分类：
其他好文 时间：
2019-07-25 21:48:17
阅读次数：
113
在读了FM和FNN/PNN的论文后，来学习一下16年的一篇Google的论文，文章将传统的LR和DNN组合构成一个wide&deep模型（并行结构），既保留了LR的拟合能力，又具有DNN的泛化能力，并且不需要单独训练模型，可以方便模型的迭代，一起来看下吧。 更好的阅读体验请点击这里。 原文：Wide ...
分类：
其他好文 时间：
2019-07-24 13:01:08
阅读次数：
91
1. 过拟合 过拟合是指在模型的训练阶段过分拟合训练数据的特征，模型的训练数据上具有较小的误差。数据中的噪声也有可能被模型所学习，使得模型的泛化性能较差。 通常导致过拟合产生的原因包括： (1). 目标函数中没有相应的正则化项作为惩罚项, 常用的正则化项包括L1 和L2，其中L1约束能够学习出稀疏的 ...
分类：
其他好文 时间：
2019-07-23 00:14:20
阅读次数：
178
