码迷,mamicode.com
首页 > 其他好文 > 详细

Apriori算法

时间:2014-06-01 09:52:13      阅读:245      评论:0      收藏:0      [点我收藏+]

标签:数据挖掘   计算智能   apriori算法   

Apriori算法是数据挖掘中一种挖掘关联规则的频繁项集算法。其核心是基于两阶段频集思想的递推算法。


先来了解下关联规则挖掘:


发现事务数据库,关系数据或其它信息库中项或数据对象集合间的频繁模式。关联,相关,或因果关系结构。


频繁模式:在数据库中频繁出现的模式(项集序列)


动机是发现数据中的规律性。


如:

购物篮分析:哪些产品更经常一起购买?  啤酒 和 尿布?!

购买了PC哪些将相继购买?

什么类型的 DNA 对新药敏感?

我们能自动地对Web文档分类吗?

 

再来看看几个概念:


支持度:s (support),事务包含 X概率。


置信度:c (confidence)事务含 也包含 条件概率p(Y|X)。


频繁项集: I,项集I的相对支持度满足预定义的最小支持度阈值


bubuko.com,布布扣


Apriori算法:

Apriori算法的核心是使用候选项集寻找频繁项集。Apriori使用一种称为逐层搜索的迭代方法,k-项集用于搜索(k+1-项集。首先,找出所有频繁1-项集L1,然后用L1寻找L2,用L2寻找L3,如此,直至不能找到频繁k-项集为止。


Apriori性质

频繁项集的所有非空子集肯定也是频繁的。

:

每个包含 {beer, diaper, nuts}的事务 也包含 {beer, diaper}

如果 {beer, diaper, nuts} 是频繁的, {beer, diaper}也是

 

转换一下思维,如果一个子集是非频繁的,那么它的超集也一定是非频繁的。这在Apriori算法里面很重要。

 

利用Apriori性质,我们在使用频繁(k-1)-项集L(k-1)寻找频繁k-项集L(k)时分两个过程:连接步和剪枝步。


连接步

L(k-1)与其自身进行连接,产生候选项集C(k)L(k-1)中某个元素与其中另一个元素可以执行连接操作的前提是它们中游(k-2)个项是相同的。也就是只有一个项是不同的。

如:项集{I1,I2}{I1,I5}连接之后产生的项集是{I1,I2,I5},而项集{I1,I2}{I3,I4}不能进行连接操作。


剪枝步

候选集C(k)中的元素可以是频繁项集,也可以不是。但所有的频繁k-项集一定包含在C(k)中,所以,C(k)L(k)的超集。扫描事物集D,计算C(k)中每个候选项出现的次数,出现次数大于等于最小支持度与事务集D中事务总数乘积的项集便是频繁项集(这里的最小支持度指的是概率,实际中我们经常直接将最小支持度看成乘积后的结果),如此便可确定频繁k-项集L(k)了。


但是,由于C(k)很大,所以计算量也会很大。为此,需要进行剪枝。即压缩C(k),删除其中肯定不是频繁项集的元素,依据就是前面提到的Apriori性质:如果一个子集是非频繁的,那么它的超集也一定是非频繁的。这在Apriori算法里面很重要。如此,如果一个候选(k-1)-子集不在L(k-1)中,那么该候选k-项集也不可能是频繁的,可以直接从C(k)中删除。


这里看一个例子就可以理解了:

bubuko.com,布布扣

所以,满足条件的所有频繁项集有{A}{B}{C}{E}{AC}{BC}{BE}{CE}{BCE}

 

算法伪代码:

C[k]: 长度为 k的候选项集
L[k] : 长度为k的频繁项集

L[1] = {频繁项};
for (k = 1; L[k] !=?; k++) do begin
    C[k+1] = 由 L[k]产生的候选;
    for each 数据库中的事务t  do
      增加包含在t 中的所有候选C[k+1]的计数
    L[k+1] = C[k+1]中满足 min_support的候选
    end
return   L[1..k];

Apriori算法,布布扣,bubuko.com

Apriori算法

标签:数据挖掘   计算智能   apriori算法   

原文地址:http://blog.csdn.net/epluguo/article/details/27800625

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!