决策树 优点：计算复杂度不高，输出结果易于理解，对中间值的缺少不敏感，可以处理不相关特征数据 缺点：过拟合 决策树的构造 熵：混乱程度，信息的期望值 其中p(xi)是选择分类的概率 熵就是计算所有类别所有可能值包含的信息期望值，公式如下： （公式2） 好了！懂这些就可以直接上代码了！ ...
分类：
其他好文 时间：
2018-10-16 21:55:56
阅读次数：
195
1、列出当前系统上所有已经登录的用户的用户名，注意：同一个用户登录多次，则只显示一次即可。命令：who|cut-d‘‘-f1|uniq2、取出最后登录到当前系统的用户的相关信息。命令：who|tail-1|cut-d‘‘-f1|id3、取出当前系统上被用户当作默认shell的最多的那个shell。命令：cut-d:-f7/etc/passwd|uniq-c|sort
分类：
系统相关 时间：
2018-10-14 16:58:40
阅读次数：
233
目 录 第1章 揭开数据挖掘的面纱1 1.1 历史的使命2 数据挖掘的最高境界就是 从数据中获取知识，辅助科学决策。 1.2 数据挖掘的故事6 1.2.1 震撼业界的发现6 沃尔玛 啤酒与尿布 1.2.2 降低成本的绝活9 -- 派克汉尼公司 机器零件磨损分析 1.2.3 出奇制胜的小纸条11 -- ...
分类：
其他好文 时间：
2018-10-06 17:09:48
阅读次数：
292
网上的内容感觉又多又乱，自己写一篇决策树算法。希望对别人有所启发，对自己也是一种进步。 决策树 须知概念 信息熵 & 信息增益 熵： 熵（entropy）指的是体系的混乱的程度，在不同的学科中也有引申出的更为具体的定义，是各领域十分重要的参量。 信息熵（香农熵）： 是一种信息的度量方式，表示信息的混 ...
分类：
编程语言 时间：
2018-09-24 00:50:03
阅读次数：
185
rsa_public_key.pem： MIIBIjANBgkqhkiG9w0BAQEFAAOCAQ8AMIIBCgKCAQEAyi2BVZCaRRR/lQPEhsaaFZhVO4qVcV8+P85kjTTJ1mDeGdPoeEOJrB9K4tehx+DsRJdYl/n6Mftd9A/PWbHK0p ...
分类：
编程语言 时间：
2018-09-23 22:20:42
阅读次数：
191
今天看了下这两个算法的思路，比较容易理解，就在这里简单记录一下 ID3算法：决策树中的一种经典算法，属于有监督学习和分类算法，如果遇到连续值需离散处理，以香农熵作为信息获取度量，通过计算特征的信息熵增益来确定一个个的根节点 退出条件如下： 1、标记属性一致 2、无可再分属性，这时就投票决定 缺点：对 ...
分类：
其他好文 时间：
2018-09-16 15:55:42
阅读次数：
162
引言 本文主要是对分类型决策树的一个总结。在分类问题中，决策树可以被看做是if-then规则的结合，也可以认为是在特定特征空间与类空间上的条件概率分布。决策树学习主要分为三个步骤：特征选择、决策树的生成与剪枝操作。本文简单总结ID3和C4.5算法，之后是决策树的修剪。 ID3算法 ID3算法和核心是 ...
分类：
编程语言 时间：
2018-09-13 01:14:03
阅读次数：
185
决策树(Decision Tree)在机器学习中也是比较常见的一种算法，最早的决策树算法是ID3，改善后得到了C4.5算法，进一步改进后形成了我们现在使用的C5.0算法，综合性能大幅提高。算法核心：为每一次分裂确定一个分裂属性。ID3采用的是“信息增益”为度量来选择分裂属性的。 ...
分类：
其他好文 时间：
2018-09-07 00:56:09
阅读次数：
2571
sql over的作用及用法 RANK ( ) OVER ( [query_partition_clause] order_by_clause ) DENSE_RANK ( ) OVER ( [query_partition_clause] order_by_clause ) 可实现按指定的字段分组... ...
分类：
数据库 时间：
2018-09-06 00:11:40
阅读次数：
1965
1、大部分情况下，你拥有一个单方法类的原因是需要存储某些额外的状态来给方法使用。 此种情况下可以使用闭包代替，参考 javascript的闭包计数器实现，python实现各种方法来实现计数器 关于这个计数器闭包和类各有千秋吧，但如果不是但方法的类，使用闭包模拟面向对象，那肯定是没有使用类好，类不光是 ...
分类：
编程语言 时间：
2018-08-13 14:03:11
阅读次数：
123
