基于Spark的分布式社區(qū)發(fā)現算法設計與實現.pdf

1、近年來，互聯網上社交應用越來越多，人們之間形成的社會化網絡結構呈現出復雜網絡的特征。社區(qū)發(fā)現是研究復雜網絡中節(jié)點關系的重要方法，對重疊社區(qū)結構的研究更是此領域的重點與難點。目前大多數的重疊社區(qū)發(fā)現算法得到的結果還不夠準確，并且針對目前大規(guī)模的網絡結構，單機算法已不能高效處理。通過研究發(fā)現，節(jié)點處在的位置不同、鄰居節(jié)點數目不同等信息都會對它在網絡圖中的重要性造成影響，節(jié)點的重要性對社區(qū)的構造也具有很大影響。為此，本文結合這一特性對標簽傳播

2、算法進行深入研究和改進，以提高方法準確性及效率，并將改進算法在分布式集群環(huán)境下實現。
　　論文的研究工作得到了國家自然科學基金項目(No.61271308、61172072、61401015)及北京市教育委員會研究生學科建設項目的支持。主要工作如下:
　　針對國內外社區(qū)發(fā)現算法、節(jié)點重要性排序進行研究，在重疊社區(qū)發(fā)現算法COPRA(Community Overlap PRopagation Algorithm)的基礎上，提出

3、基于節(jié)點重要性的標簽傳播算法NI-COPRA(Node Importance-Community Overlap PRopagation Algorithm)。用邊緣節(jié)點刪除方法對網絡中節(jié)點進行重要性排序，并用前k個節(jié)點構造初始團，作為標簽傳播的初始單位。通過實驗確定k的最佳范圍。在傳播階段，根據重要性排序對傳播規(guī)則進行改進，避免了逆流現象并且大大提高了準確性和效率。最后通過人工合成網絡和真實網絡數據集進行算法的效能驗證實驗，并與幾個經

4、典社區(qū)發(fā)現算法在執(zhí)行時間與發(fā)現結果質量兩方面做比較。
　　針對大規(guī)模網絡環(huán)境，研究Spark分布式技術，將NI-COPRA在Spark分布式環(huán)境中進行并行化設計，并加以實現?？紤]到現有工具Spark擁有支持內存計算、多迭代批量處理、圖計算等多種功能，能夠極大地提升大數據處理的效率和準確性，因此將算法進行并行化改進以適應發(fā)展需求。首先搭建Spark分布式計算集群，并構建Spark開發(fā)環(huán)境，然后將本文提出的算法NI-COPRA進行并行