原文：https://www.cnblogs.com/fionacai/p/5894142.html 首先，在了解树模型之前，自然想到树模型和线性模型有什么区别呢？其中最重要的是，树形模型是一个一个特征进行处理，之前线性模型是所有特征给予权重相加得到一个新的值。决策树与逻辑回归的分类区别也在于此，逻 ...
分类：
其他好文 时间：
2018-07-20 11:26:22
阅读次数：
206
逻辑回归的基本过程：a建立回归或者分类模型 >b 建立代价函数 > c 优化方法迭代求出最优的模型参数 >d 验证求解模型的好坏。 1.逻辑回归模型： 逻辑回归（Logistic Regression）：既可以看做是回归算法，也可以看做是分类算法。通常作为分类算法，一般用于解决二分类问题。 线性回归 ...
分类：
其他好文 时间：
2018-07-19 13:38:19
阅读次数：
232
1、过拟合和欠拟合怎么判断，如何解决？ 答：主要可以通过训练误差和测试误差入手判断是否过拟合或欠拟合。一般而言训练误差很低，但是测试误差较高，过拟合的概率较大，如果训练误差和测试误差都很高，一般是欠拟合。过拟合可以从增加样本量，减少特征数，降低模型复杂度等方面入手，实际的例子比如线性回归中，对于几十 ...
分类：
编程语言 时间：
2018-07-18 23:34:22
阅读次数：
235
主要参考： word2vec 中的数学原理详解 自己动手写 word2vec ...
分类：
编程语言 时间：
2018-07-18 01:12:29
阅读次数：
187
主要参考： word2vec 中的数学原理详解 自己动手写 word2vec 编码的话，根是不记录在编码中的 这一篇主要讲的就是霍夫曼树（最优二叉树）和编码。 参考 快速画出哈夫曼树 / 霍夫曼树 / 最优树 了解其构成。 哈夫曼树及 python 实现 python 代码 构建霍夫曼树 ，获得霍夫 ...
分类：
其他好文 时间：
2018-07-18 00:33:27
阅读次数：
300
第三章 使用sklearn 实现机学习的分类算法 分类算法 分类器的性能与计算能力和预测性能很大程度上取决于用于模型训练的数据 训练机器学习算法的五个步骤： 1. 特征的选择 2. 确定评价性能的标准 3. 选择分类器及其优化算法 4. 对模型性能的评估 5. 算法的调优 <! more sklea ...
分类：
其他好文 时间：
2018-07-17 00:47:03
阅读次数：
213
逻辑回归中包含了正向传播和反向传播,用一个计算图来表示其过程 计算图: 举一个简单的例子例: 把j(a,b,c)看作logistic回归成本函数j=3(a+bc),它的计算过程为让u=bc,v=a+u 得j=3v 其中正向传播为从左到右得到成本函数的过程 反向传播为对其进行求导得到dJ/da,dJ/ ...
分类：
其他好文 时间：
2018-07-15 23:21:05
阅读次数：
185
# # 由于逻辑回归解决的是分类问题，而且是二分类，因此定义损失函数时也要有两类 # 1）如果 y = 1（p ≥ 0.5），p 越小，损失函数越大； # 2）如果 y = 0（p ≤ 0.5），p 越大，损失函数越大； # 模型变形： # 最终的损失函数模型： # 该模型不能优化成简单的数学表达式 ...
分类：
其他好文 时间：
2018-07-15 21:28:39
阅读次数：
197
本文就对Boosting家族中另一个重要的算法梯度提升树(Gradient Boosting Decison Tree, 以下简称GBDT)做一个总结。GBDT有很多简称，有GBT（Gradient Boosting Tree）, GTB（Gradient Tree Boosting ）， GBRT ...
分类：
其他好文 时间：
2018-07-15 21:12:02
阅读次数：
267
