3.1 决策树的构造3.1.1 信息增益熵(entropy)是信息的期望值。如果待分类的事物可能划分在多个分类中，则符号xi的信息定义为：，p(xi)为该分类的概率。为了计算熵，需计算所有类别所有可能包含的信息期望值：，n是分类的数目。3.1.2 划分数据集分类算法需要：上述的测量信息熵、划分数据集...
分类：
其他好文 时间：
2015-12-06 22:47:31
阅读次数：
316
MLlib的设计原理:把数据以RDD的形式表示，然后在分布式数据集上调用各种算法。MLlib就是RDD上一系列可供调用的函数的集合。操作步骤:1、用字符串RDD来表示信息。2、运行MLlib中的一个特征提取算法来吧文本数据转换为数值的特征。给操作会返回一个向量RDD。3、对向量RDD调用分类算法，返...
分类：
其他好文 时间：
2015-12-06 22:41:01
阅读次数：
6301
Python实战之KNN实现 用Python来实现K近邻分类算法（KNN）已经是一个老生常谈的问题，网上也已经有诸多资料，不过这里我还是决定记录一下自己的学习心得。 1、配置numpy库 numpy库是Python用于矩阵运算的第三方库，大多数数学运算都会依赖这个库来进行，关于numpy库的配...
分类：
编程语言 时间：
2015-12-05 17:35:09
阅读次数：
243
本文主要介绍一种非常流行的分类算法：决策树分类算法。例子：一个网站上有多少用户会愿意为某些高级会员功能而支付费用。步骤一：导入数据；新建一个treepredict.py的问价，将下面数据写入。数据的具体信息分别是：来源网站，位置，是否读过FAQ，浏览网页数，选择服务类型。my_data=[['sla...
分类：
其他好文 时间：
2015-12-04 22:44:34
阅读次数：
234
目前看到的比较全面的分类算法,总结的还不错. 主要分类方法介绍解决分类问题的方法很多[40-42] ，单一的分类方法主要包括：决策树、贝叶斯、人工神经网络、K-近邻、支持向量机和基于关联规则的分类等；另外还有用于组合单一分类方法的集成学习算法，如Bagging和Boosting等。 （1...
分类：
编程语言 时间：
2015-11-28 20:03:30
阅读次数：
186
一、引言产品分类，多级的树状结构的论坛，邮件列表等许多地方我们都会遇到这样的问题：如何存储多级结构的数据？在PHP的应用中，提供后台数据存储的通常是关系型数据库，它能够保存大量的数据，提供高效的数据检索和更新服务。然而关系型数据的基本形式是纵横交错的表，是一个平面的结构，如果要将多级树状结构存储在关...
分类：
编程语言 时间：
2015-11-22 23:15:52
阅读次数：
253
ID3分类算法的编码实现 1 "); 77 if(($train[$i][$num]==$attributename[$j])&&($train[$i][count($train[$i])-1]==$flagsyes)) 78 { 79 ...
分类：
编程语言 时间：
2015-11-17 18:56:17
阅读次数：
336
Part3文本聚类分类和聚类算法，都是数据挖掘中最常接触到的算法，分类聚类算法分别有很多种。可以看下下面两篇文章对常见的分类聚类算法的简介：分类算法：http://blog.csdn.net/chl033/article/details/5204220聚类算法：http://blog.chinaun...
分类：
编程语言 时间：
2015-11-09 13:56:14
阅读次数：
1365
一、概述 K最近邻(k-Nearest Neighbor，KNN)分类算法，是一个理论上比较成熟的方法，也是最简单的机器学习算法之一。该方法的思路是：如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样本也属于这个类别。KNN算法中，所选择的邻居都是已经....
分类：
编程语言 时间：
2015-11-04 17:18:28
阅读次数：
189
