1.简介 gbdt全称梯度提升决策树，在传统机器学习算法里面是对真实分布拟合的最好的几种算法之一，在前几年深度学习还没有大行其道之前，gbdt在各种竞赛是大放异彩。原因大概有几个，一是效果确实挺不错。二是即可以用于分类也可以用于回归。三是可以筛选特征。这三点实在是太吸引人了，导致在面试的时候大家也非 ...
分类：
编程语言 时间：
2020-05-01 00:57:50
阅读次数：
67
摘要 1. Logistic回归分类 2. 梯度下降法 3. 代码实现与解释 Logistic回归 逻辑斯特回归（logistic regression）是一种非常经典的分类方法。其用到的分类函数一般为Sigmoid函数，其函数形式为： 其图形表示如下： 从图中我们可以看到，当z=0时，函数值为0. ...
分类：
其他好文 时间：
2020-04-29 18:40:46
阅读次数：
77
import numpy as np import pandas as pd import matplotlib.pyplot as plt import os path = 'data'+os.sep+'LogiReg_data.txt' pdData = pd.read_csv(path,hea ...
分类：
编程语言 时间：
2020-04-26 18:38:31
阅读次数：
77
变分推断总结，内容包括变分推断求解目标，中场理论，指数分布求解例子和随机梯度变分推断 ...
分类：
其他好文 时间：
2020-04-25 01:18:00
阅读次数：
78
The parameters and can be used with all optimizers to control gradient clipping。 Keras的所有optimizer都可以使用 和`clipvalue`来防止梯度过大。 ...
分类：
其他好文 时间：
2020-04-24 21:48:01
阅读次数：
86
1.用自己的话描述一下，什么是逻辑回归，与线性回归对比，有什么不同？ 逻辑回归又称logistic回归分析，是一种广义的线性回归分析模型，是一个专门解决二分类的分类算法。逻辑回归使用一个函数来归一化y值，使y的取值在区间(0,1)内，这个函数称为Logistic函数(logistic functio ...
分类：
其他好文 时间：
2020-04-23 21:06:57
阅读次数：
58
1.本节重点知识点用自己的话总结出来，可以配上图片，以及说明该知识点的重要性 （1）思维导图 （2）回归算法 （3）梯度下降 （4）损失函数 2.思考线性回归算法可以用来做什么？ 可以处理回归问题：例如房价预测，温度预测等 也可以处理分类问题：例如天气预测等 3.自主编写线性回归算法 ，数据可以自己 ...
分类：
编程语言 时间：
2020-04-22 16:38:32
阅读次数：
70
1.本节重点知识点用自己的话总结出来，可以配上图片，以及说明该知识点的重要性 回归和分类的区别最主要的一个是连续变量的预测，一个是离散变量的预测 损失函数 最小二乘法之梯度下降 梯度下降的动态图 课堂代码 2.思考线性回归算法可以用来做什么？（大家尽量不要写重复） 线性回归可以应用在流行病学里做一个 ...
分类：
编程语言 时间：
2020-04-22 13:25:49
阅读次数：
75
1.本节重点知识点用自己的话总结出来，可以配上图片，以及说明该知识点的重要性 （1）有监督：训练数据集必须是有标记，然后通过给定的训练数据和特定的算法去构造一个模型。 无监督：训练数据集没有标记，去寻找训练数据中隐藏的模式或者是对数据进行分组。 （2）线性回归原理： 线性回归在假设特证满足线性关系， ...
分类：
编程语言 时间：
2020-04-22 13:14:16
阅读次数：
64
1.本节重点知识点用自己的话总结出来，可以配上图片，以及说明该知识点的重要性 连续变量预测——回归 离散变量预测——分类 线性回归 我的理解是通过对一个事物的连续观察，得出它的某个属性的浮动范围，并预测出下次的浮动范围在哪 因为机器预测和真实值会有误差，所以会用到梯度下降的方法来减少误差 沿着梯度相 ...
分类：
编程语言 时间：
2020-04-22 12:59:04
阅读次数：
58
