目录
一、关联规则挖掘
二、Apriori-关联规则算法
三、Apriori算法分解—Python大白话式实现
步骤1： 外部库调用❀
步骤2： 数据导入❀
步骤3： 数据处理❀
步骤4：输出所有Goodlist❀
步骤5：项集重组❀
步骤6：支持度扫描与输出 ❀
步骤7：根据最小支持度阈值进行减枝叶❀
步骤8：对每一个频繁项集进行子集拆分计算confi和rule挖掘❀
步骤9：Find_rule❀
四、Apriori代码——全部呈上~
五、总结
一、关联规则挖掘
1. 定义：参考百度百科即可：
“假设是项的集合。给定一个交易数据库D，其中每个事务(Transaction)t是I的非空子集，即，每一个交易都与一个唯一的标识符TID(Transaction ID)对应。关联规则在D中的支持度(support)是D中事务同时包含X、Y的百分比，即概率；置信度(confidence)是D中事务已经包含X的情况下，包含Y的百分比，即条件概率。如果满足最小支持度阈值和最小置信度阈值，则认为关联规则是有趣的。这些阈值是根据挖掘需要人为设定。” ——引用百度百科词条解释
百度百科或者一些教材说的太专业了反而很难理解，不妨看下面的个人观点大白话解释：
关联规则提出的背景是购物篮分析，A顾客会买零食、面包、牛奶，不同客户会有不同的消费，那每一个顾客的消费集合就构成了一个事务（消费-支付事务），那这个事务集就上上面说的“唯一标识符TID”；那问题是，每种商品被不同顾客购买了多少次呢？那么这个次数就是“支持频数”，那被所有顾客购买的概率就是“支持度Sup”；那问题又来了，X商品和Y商品之间的被购买关系是怎样的呢？比如消费者买了面包，还可能会买面包伴侣（牛奶等），那面包和牛奶就构成了关联，那这个关联的置信度又是多少呢？就是消费者买了面包，再去买牛奶的概率是多少呢？反之亦言。那这个条件概率，就是上面提到的置信度。
2. 作用：可以揭示数据集的内在的、重要的特性。是很多重要数据挖掘任务的基础关联、相关和因果分析的基本方式。在序列、结构（e.g.子图）模式分析；时空、多媒体、时序和流数据中的模式分析；分类：关联分类；聚类分析：基于频繁模式的聚类；数据仓库：冰山方体计算等各类数据挖掘工作中发挥着基础性作用。
说的又很奇奇怪怪的，关联规则的挖掘到底有什么用？还是可以回到上面的购物篮分析，比如啊，我们分析了面包和牛奶的关联规则之后，如果满足支持度、置信度要求，那么我们就可以把这两个商品放在一块儿（可能会增加购买），或者在做Promotion打造时可以辅助策略制定等等。事实上，从商业视角来说，他就是对People、Place、Promotion、Price策略制定的综合考量因子（4ps战略）。
在和复旦大佬学长交流之后，他提到了异常检测，虽然我也不太明白什么道理。但是结合财会视角来看，这个关联规则或许还能够对企业行为进行监测。那对于网页开发来说，点击哪些模块儿？链接？先后顺序？等都是可以考量的点。
———“个人角度，如果有错误请予以斧正！！！”
3. 挖掘的步骤：①找出频繁项集；②由频繁项集，找出满足minsup和minconfi的关联规则。
如果一个Goodlist由100个商品，如果想要遍历循环，那得到的频繁项集有2^100-1个
↓
引出Apriori算法
二、Apriori-关联规则算法
Apriori算法利用频繁项集性质的先验知识（prior knowledge），通过逐层搜索的迭代方法，即将k-项集用于探察(k+1)-项集，来穷尽数据集中的所有频繁项集。
步骤：先找到频繁1-项集集合L1,然后用L1找到频繁2-项集集合L2，接着用L2找L3，直到找不到频繁k-项集，找每个Lk需要一次数据库扫描。最后得到所有满足最小支持的频繁项集合，再进行关联规则输出。
关于Apriori的解释，CSDN中有非常多的前辈给出了自己非常完备的解释，对其优缺点也进行了深入剖析，我在这里就不做过多解释，向大家推我认为非常非常好的三篇文章链接：
这一篇生动有趣，适合年轻人来看！（点击本文字即可）
这一篇有博主手写的解释！适合小白理解Apriori的步骤！
这一篇也不错噢！
三、Apriori算法分解—Python大白话式实现
我看了CSDN中很多博主分享的代码，发现很多博主代码趋同（可能复制粘贴），或者直接调用的外部开源的库来实现的，还有的博主自己撰写的，但是用了很多可能不懂的函数来做的，甚至还有的就直接在一个函数里面嵌套多个函数来传递参数实现，读起来感觉，对小白非常不友好。
那在这里，我就分享一些很简单的代码来实现。包括数据导入、数据处理、调用、关联规则挖掘等完整的分析流程。我看了一下这个应该是全站流程最全面的代码了。
——当然简单就意味着代码很长，有些地方处理的比较粗糙
步骤1： 外部库调用❀
只用到了 pandas itertools 和 自带的time
import pandas as pd #数据导入用import itertools as it #子集生成用import time #输出程序员运行时间用步骤2： 数据导入❀
因为是全函数编写，最终的数据导入在代码最后，所以直接拿出来看
if __name__ == '__main__':# 数据导入data = pd.read_excel("D:\OneDrive\桌面\测试数据.xlsx", index_col=0, header=0)data = data.applymap(lambda x: str(x).strip())# 删除导入时可能存在的空格值，比如：“面包”成了“ 面包”# 数据格式转换data = data.values# 改为元组型数据，便于list输出data = data.tolist()# 输出为客户*商品集合# 设定支持度和置信度minsup,minconfi=map(eval,input("请输入支持度和置信度：").split(" "))start = time.time()Find_rule_apriori(data,minsup,minconfi)end=time.time()print('Running time: {0} Seconds'.format(end - start))步骤3： 数据处理❀
很多博主在数据导入阶段说明不清，不知道最终的导入格式，这里我把测试数据截图放出来仅供大家参考，助于后续程序的理解：
那在Panda导入中会出现一个问题就是，空白格会被默认为None值，输出出来就是“non”：
那么为了处理“nan”值，而常规的pandas的其他功能应该是不能直接删去的，多数还是填充。因此我编写了以下“白话for循环”的Non_deal()函数:
def Non_deal(df):list_data = []rows = len(df)for i in range(0,rows):list = df[i]list_con = []cols = len(list)for j in range(0,cols):if list[j]!="nan":list_con.append(list[j])#如果用remove法需要倒序去除，否则无法去除干净（因为每一次去除会导致len-1）list_data.append(list_con)return list_data输出结果为: 可以看到non值都被删去了。注意remove的使用，我这里处理比较粗糙，为了用Append多加了一个中间列表List_con，虽然用remove会更快。
步骤4：输出所有Goodlist❀
事实上也就是备选频繁1项集，这个函数不太重要，后续调用也完全可以替代别的方式，编写的目的是我思考时的便利逻辑过程的一种方式而已。
#目的是得到备选1-项集def Good_list(df):#将单个商品集合出来list_all=[]list_in=Non_deal(df)for i in range(0,len(list_in)):for j in range(0,len(list_in[i])):list_m=[]list_m.append(str(list_in[i][j]))list_all.append(str(list_m))list_all=list(set(list_all))for i in range(0,len(list_all)):list_all[i]=eval(list_all[i])return list_all步骤5：项集重组❀
因为Apriori是通过满足支持度阈值的频繁k项集得到备选频繁k+1项集合，因此这一个函数的目的便是进行项集重组，升阶化的过程。注意，这个不是放在最前面的逻辑，而是预先编写。为了后面直接调用的准备工作。可以发现也都是for循环，连while等等都不带的。由于我们导入数据就选择的是列表格式，因此我们后续工作也就都利用list来完成，那么list就需要一直for循环调用，不像dict中直接for item in dict等等方便清晰，前面也说了，细节处理还是较粗糙。
#目的是进行k-1-频繁项集合的重组为k项目集合def creat_connect(list_c,n): ##实现集合内的重组，例如2-项集合重组为3-项集new_list=[]for i in range(0,len(list_c)):list_a = []for j in range(i+1,len(list_c)):list_b = list_c[i]list_d = []for k in range(0,n):list_d.append(list_c[j][k])list_a = list_b+list_dlist_a=list(set(list_a))list_a.sort()new_list.append(str(list_a))new_list=list(set(new_list))New_list=[]for i in range(0,len(new_list)):new_list[i]=eval(new_list[i])new_list[i].sort()if len(new_list[i])==n+1:New_list.append(new_list[i])return New_list步骤6：支持度扫描与输出 ❀
这里就回归了逻辑线条，这里提供两种方法，一种是输出counts一种是输出rates，即支持频数和支持度的两种衡量办法，这里仅供大家挑选，两个函数没什么区别。 本find_rule函数用的是counts函数，如果要换记得调整为rates。
#输出每个k-项频繁集的候选集的比率def sup_rate(df,data):m = len(data)# 事务总数item_set_list = []for i in range(0,len(df)):n=0list_n=[]for j in range(0,len(data)):if (set(df[i]) <= set(data[j]))==True:n+=1list_n.append(df[i])list_n.append(round(n/m,2))item_set_list.append(list_n)returnitem_set_list#输出每个k-项频繁集的候选集的个数，上有比率写法，两者无本质区别，都可以使用def sup_counts(df,data): #输出每个1-项频繁集的候选集的次数item_set_list = []for i in range(0,len(df)):n=0list_n=[]for j in range(0,len(data)):if (set(df[i]) <= set(data[j]))==True:n+=1list_n.append(df[i])list_n.append(n)item_set_list.append(list_n)returnitem_set_list步骤7：根据最小支持度阈值进行减枝叶❀
其他博主文章也说过，Apriori算法的核心就是通过剪枝来减少扫描难度。因为非频繁项集的超级也一定不频繁。
#得到满足最小支持度阈值的关联规则（find——rule of min-sup-rate item）def sup_satisfy_item(data,min_suprate):n = len(data)# 事务总数Good_list1=Good_list(data)m = len(Good_list1)# 商品总数dt = sup_counts(Good_list1, data)All_freitem_list=[]for k in range(1,m):dt.sort()k_apriori=[]for j in range(0,len(dt)):if dt[j][-1] >= min_suprate*n: ##减枝过程k_apriori.append(dt[j][0])k_apriori.sort()dt=sup_counts(creat_connect(k_apriori,k),data)if len(k_apriori)!=0:All_freitem_list.append(k_apriori)else:breakreturn All_freitem_list步骤8：对每一个频繁项集进行子集拆分计算confi和rule挖掘❀
这个函数也是一个中间函数，预备工作而已。注意条件（前提是频繁项集，如果不是的话，数量可能非常多，很难挖掘 ）这也是身边其他人或者大家可能会犯的错误，为啥不通过Good_list清单来生成所有的1/2/3/…/k项备选频繁集，再来扫描其每一个的支持度呢？那如果是这么想的，就忽略了Apriori算法的核心了。具体是什么可以返回自行理解。
——好吧我承认 /(ㄒoㄒ)/~~：事实上Good_list()函数的编写，就是我按照上述逻辑来编写的
def Ksubset_get(df): #获得非空子集（前提条件是频繁项集，否则数量太多，很难挖掘）n =len(df)k =len(df[0])All_nzsubset=[]for num in range(n):for i in it.combinations(df,num+1):#调用it.combination 函数All_nzsubset.append(list(i))return All_nzsubset步骤9：Find_rule❀
最后一步了！！直接进行规则输出就好了，这一步非常非常非常的复杂，因为用的是list不是dict，可能在某些处理上不得不加入很多中间list来进行暂存以便后续调用。但其实我后面想了一下，用dict也很复杂，简单不到哪里去的感觉。（主要是没写）
def Find_rule_apriori(data,min_suprate,min_confi):a=len(data) #事务总数Sup_satisfy_item=sup_satisfy_item(data,min_suprate) #获得满足支持度的频繁项集，第一项为频繁1项集合的集合，以此类推。l=len(Sup_satisfy_item) #获得频繁项集集合的集合长度for i in range(1,l): #无需对频繁1项集合找寻关联规则，直接从频繁二项集的集合进行扫寻循环Sup_satisfy_itemi=Sup_satisfy_item[i]#得到一个频繁i+1项集合的列表的列表m=len(Sup_satisfy_itemi)for j in range(0,m):#为对每一个频繁项集进行扫寻，因此需要再做一次for循环Prule = Sup_satisfy_itemi[j]list1=[]list1.append(Prule)item_counts1 = sup_counts(list1,data)[0][-1]#首先需要得到这一个频繁项集的支持度，或者计算频数也可以list1.clear()prerule_find = Ksubset_get(Prule)#得到这一个频繁项集集合的所有非空集合，方便进行关联规则的重组prerule_find.remove(prerule_find[-1])#删除全集q = len(prerule_find) #得到排除全集后的关联重组列表的长度，以便进行for循环for z in range(0,q):list2=[]list2.append(prerule_find[z])item_counts2 = sup_counts(list2,data)[0][-1]#得到每一个关联重组后项集的支持度（或频数）list2.clear()if item_counts2 > 0:Confi_item = item_counts1/item_counts2 #得到置信度if Confi_item >= min_confi: #置信度减除n=len(prerule_find[z])list3 = Prule[:]for o in range(0, n):list3.remove(str(prerule_find[z][o]))print("{0} ==> {1},sup={2},confi={3}".format(prerule_find[z],list3,round(item_counts1/a,2),round(Confi_item,2)))输出结果：可以看到，整个程序的运行速度还是比较快的，加入更多的good和tid之后个人认为还是可以保持较快的输出速度。
四、Apriori代码——全部呈上~
import pandas as pdimport numpy as npimport itertools as itimport time# 去除集合矩阵（i，j）None值，便于计数以及算法，常规的pandas是用来数据清洗和数据填充的，没办法解决这种问题def Non_deal(df):list_data = []rows = len(df)for i in range(0,rows):list = df[i]list_con = []cols = len(list)for j in range(0,cols):if list[j]!="nan":list_con.append(list[j])#如果用remove法需要倒序去除，否则无法去除干净（因为每一次去除会导致len-1）list_data.append(list_con)return list_data#目的是得到备选1-项集def Good_list(df):#将单个商品集合出来list_all=[]list_in=Non_deal(df)for i in range(0,len(list_in)):for j in range(0,len(list_in[i])):list_m=[]list_m.append(str(list_in[i][j]))list_all.append(str(list_m))list_all=list(set(list_all))for i in range(0,len(list_all)):list_all[i]=eval(list_all[i])return list_all#目的是进行k-1-频繁项集合的重组为k项目集合def creat_connect(list_c,n): ##实现集合内的重组，例如2-项集合重组为3-项集new_list=[]for i in range(0,len(list_c)):list_a = []for j in range(i+1,len(list_c)):list_b = list_c[i]list_d = []for k in range(0,n):list_d.append(list_c[j][k])list_a = list_b+list_dlist_a=list(set(list_a))list_a.sort()new_list.append(str(list_a))new_list=list(set(new_list))New_list=[]for i in range(0,len(new_list)):new_list[i]=eval(new_list[i])new_list[i].sort()if len(new_list[i])==n+1:New_list.append(new_list[i])return New_list#输出每个k-项频繁集的候选集的比率def sup_rate(df,data):m = len(data)# 事务总数item_set_list = []for i in range(0,len(df)):n=0list_n=[]for j in range(0,len(data)):if (set(df[i]) <= set(data[j]))==True:n+=1list_n.append(df[i])list_n.append(round(n/m,2))item_set_list.append(list_n)returnitem_set_list#输出每个k-项频繁集的候选集的个数，上有比率写法，两者无本质区别，都可以使用def sup_counts(df,data): #输出每个1-项频繁集的候选集的次数item_set_list = []for i in range(0,len(df)):n=0list_n=[]for j in range(0,len(data)):if (set(df[i]) = min_suprate*n: ##减枝过程k_apriori.append(dt[j][0])k_apriori.sort()dt=sup_counts(creat_connect(k_apriori,k),data)if len(k_apriori)!=0:All_freitem_list.append(k_apriori)else:breakreturn All_freitem_listdef Ksubset_get(df): #获得非空子集（前提条件是频繁项集，否则数量太多，很难挖掘）n =len(df)k =len(df[0])All_nzsubset=[]for num in range(n):for i in it.combinations(df,num+1):#调用it.combination 函数All_nzsubset.append(list(i))return All_nzsubsetdef Find_rule_apriori(data,min_suprate,min_confi):a=len(data) #事务总数Sup_satisfy_item=sup_satisfy_item(data,min_suprate) #获得满足支持度的频繁项集，第一项为频繁1项集合的集合，以此类推。l=len(Sup_satisfy_item) #获得频繁项集集合的集合长度for i in range(1,l): #无需对频繁1项集合找寻关联规则，直接从频繁二项集的集合进行扫寻循环Sup_satisfy_itemi=Sup_satisfy_item[i]#得到一个频繁i+1项集合的列表的列表m=len(Sup_satisfy_itemi)for j in range(0,m):#为对每一个频繁项集进行扫寻，因此需要再做一次for循环Prule = Sup_satisfy_itemi[j]list1=[]list1.append(Prule)item_counts1 = sup_counts(list1,data)[0][-1]#首先需要得到这一个频繁项集的支持度，或者计算频数也可以list1.clear()prerule_find = Ksubset_get(Prule)#得到这一个频繁项集集合的所有非空集合，方便进行关联规则的重组prerule_find.remove(prerule_find[-1])#删除全集q = len(prerule_find) #得到排除全集后的关联重组列表的长度，以便进行for循环for z in range(0,q):list2=[]list2.append(prerule_find[z])item_counts2 = sup_counts(list2,data)[0][-1]#得到每一个关联重组后项集的支持度（或频数）list2.clear()if item_counts2 > 0:Confi_item = item_counts1/item_counts2 #得到置信度if Confi_item >= min_confi: #置信度减除n=len(prerule_find[z])list3 = Prule[:]for o in range(0, n):list3.remove(str(prerule_find[z][o]))print("{0} ==> {1},sup={2},confi={3}".format(prerule_find[z],list3,round(item_counts1/a,2),round(Confi_item,2)))if __name__ == '__main__':# 数据导入data = pd.read_excel("D:\OneDrive\桌面\测试数据.xlsx", index_col=0, header=0)print(data)data = data.applymap(lambda x: str(x).strip())# 删除导入时可能存在的空格值，比如：“面包”成了“ 面包”# 数据格式转换data = data.values# 改为元组型数据，便于list输出data = data.tolist()# 输出为客户*商品集合print(Non_deal(data))# 设定支持度和置信度minsup,minconfi=map(eval,input("请输入支持度和置信度：").split(" "))start = time.time()Find_rule_apriori(data,minsup,minconfi)end=time.time()print('Running time: {0} Seconds'.format(end - start))五、总结
① 非常感谢我们老师的指导和激励呜呜呜，上课一直被点名。
② Apriori算法真的很难写出来，写的很痛苦的家人们一定不要放弃！心态要好，希望这篇文章能够帮到你们一些，给到你们一些“我踩过的坑不要踩”的建议。
③ 个人一直以来就喜欢分享，看以前的文章也可以发现，什么聚类分析、模糊聚类（传递闭包矩阵算法等等）都是个人编写的大白话函数，所以撰写本文的初衷就是个人的分享~
④ K-means算法本人由于之前学习数学建模的时候太懒了，就没有撰写。
⑤ 如果大家复制了我的函数，希望能够在代码段中标明了引用。
⑥ 本文在细节的处理非常粗糙，希望大家在编写过程中能够予以改进，期待和各位交流（改进了一定要记得和我分享分享呜呜呜）
⑦ 这是一个学习锻炼的过程，非计科、信管等专业，但也要强化这种语言能力~特别是商科！