随机森林（RandomForest） 简介： 在机器学习中，随机森林是一个包含多个决策树的分类器， 并且其输出的类别是由个别树输出的类别的众数而定。 Leo Breiman和Adele Cutler发展出推论出随机森林的算法。 而 “Random Forests” 是他们的商标。 这个术语是1995 ...
分类：
其他好文 时间：
2020-05-05 20:23:35
阅读次数：
489
随机森林算法学习最近在做kaggle的时候，发现随机森林这个算法在分类问题上效果十分的好，大多数情况下效果远要比svm，log回归，knn等算法效果好。因此想琢磨琢磨这个算法的原理。 要学随机森林，首先先简单介绍一下集成学习方法和决策树算法。下文仅对该两种方法做简单介绍（具体学习推荐看统计学习方法的 ...
分类：
编程语言 时间：
2020-04-30 11:36:53
阅读次数：
113
一棵决策树包含一个根结点、若干内部结点和若干个叶节点；叶结点对应决策结果，其他每个结点则对应于一个属性测试；每个结点包含的样本集合根据属性测试的结果被划分到子结点中；根结点包含样本全集。从根结点到每个叶结点的路径对应一个判定测试序列。决策树学习的目的是为了产生一棵泛化能力强，即处理未见示例能力强的决 ...
分类：
其他好文 时间：
2020-04-28 15:31:47
阅读次数：
86
随机森林，是指用随机的方式建立一个森林，森林里面有许多决策树，且随机森林中的树与树之间是彼此独立的。在得到随机森林后，当有一个新的样本输入的时候，让森林中的每一棵树分别进行计算并进行统计汇总，得分最多的那个结果为最终的结果。随机森林既可以处理属性为离散值的样本(ID3算法)，也可以处理属性为连续值的 ...
分类：
其他好文 时间：
2020-04-23 00:41:07
阅读次数：
102
集成学习 集成学习分为bagging和boosting两类，典型的bagging有随机森林等，典型的boosting有gbdt和adaboost等(xgboost和lightGBM都是基于gbdt的高效实现，在我的另外两篇博文中都有介绍)。 bagging与boosting的区别如下所述： 共同点： ...
分类：
其他好文 时间：
2020-04-21 15:17:19
阅读次数：
90
importpandasaspdimportnumpyasnpdata=pd.read_excel(r‘/Users/fangluping/Desktop/望潮府.xlsx‘,encoding=‘utf_8_sig‘,usecols=[‘销售状态‘,‘产品类型‘,‘户型‘,‘户型配置‘,‘预测建筑面积‘,‘表价总价‘,‘建面表单价‘,‘价格方案名称‘,‘调价幅度(%)‘],skipfooter=1
分类：
其他好文 时间：
2020-04-19 00:57:27
阅读次数：
64
想必很多人都听说过决策树和随机森林，这是用来预测的数学模型，用python可以快速实现。下面这些代码请收好，理解其中的含义以后，改改参数你也可以用这个模型进行预测啦。不过博主以为，模型最后的寻找重要因子才是最有意思的部分～拿到数据集的第一步，清洗数据：importpandasaspdimportnumpyasnptitanic=pd.read_csv(r‘/Users/titanic_train.
分类：
其他好文 时间：
2020-04-18 16:04:09
阅读次数：
114
0. 前言 sklearn提供了sklearn.ensemble库，其中包括随机森林模型(分类)。但之前使用这个模型的时候，要么使用默认参数，要么将调参的工作丢给调参算法（grid search等）。今天想来深究一下到底是如何选择参数，如何进行调参。 学会调参是进行集成学习工作的前提。参数可分为两种 ...
分类：
其他好文 时间：
2020-04-06 09:42:16
阅读次数：
91
本程序使用的是Jupyte Notebook ...
分类：
其他好文 时间：
2020-04-05 22:36:08
阅读次数：
81
random_state是一个随机种子，是在任意带有随机性的类或函数里作为参数来控制随机模式。当random_state取某一个值时，也就确定了一种规则。 random_state可以用于很多函数，我比较熟悉的是用于以下三个地方：1、训练集测试集的划分 2、构建决策树 3、构建随机森林 1、划分训练 ...
分类：
其他好文 时间：
2020-03-31 01:25:49
阅读次数：
523
